今日から機械学習の勉強を再開。ここ数ヶ月体調が悪かったので、学習からは遠ざかっていたが、だいぶ回復したので気持ちを切り替えて頑張っていきたい。早速だが、ここ最近はLLMに興味があるので、k下記に示す一冊からスタート。
また語学力向上&維持を目指してレアジョブ英会話&英単語もやり直す。
もう少し調子が戻れば中国語の復習やブラッシュアップに力を入れる。(たまに業務で使うと出てこない言葉が出てきているので)
目標1: 作りながら学ぶ LLM自作入門
本書は、GPT型のLLM (大規模言語モデル) を一から理解して構築するために書かれました。
テキストデータの扱い方とAttentionメカニズムのコーディングの基礎を理解した後、完全なGPTモデルの実装に取り組みます。
本書の特徴は、LLMの構築プロセス全体を包括的にカバーしていることです。これには、モデルアーキテクチャを実装するためのデータセットの扱い方から、ラベルなしデータでの事前学習、そして特定のタスク向けのファインチューニングまでが含まれています。
本書を最後まで読めばLLMの仕組みがしっかりと理解でき、独自のモデルを構築するためのスキルを身につけることができるでしょう。作成するモデルは大規模な基礎モデルに比べれば規模は小さいものの、基になっている概念は同じです。最先端のLLMの構築に使われている中核的なメカニズムやテクニックを理解するための強力なツールとなるでしょう。
LLMだけでなく画像系や物体検知の勉強もせねばと思っているが、まずはここから….
目標: 最初から最後まで
期限: 5月31日まで
目標2: レアジョブ英会話 25分
入社以来継続している英会話。たまにサボったり、数ヶ月休会することもあったが、語学はKeep Speakingなんだと実感して以降のらりくらりと継続中。
目標: 週5回以上
目標3: Distinction 1
YouTuber Atsuさんの言わずと知れた英単語帳シリーズ。今年中に全シリーズ制覇や
目標: 1冊
期日: 5月31日まで
最後に
語学と機械学習を自分の確固たる軸にするため、仕事を言い訳にせず取り組むのみ。