シラバス参照

基本情報/Basic Information

遠隔授業（授業回数全体の半分以上）の場合は、科目名の先頭に◆が付加されています（2023年度以降）

開講科目名
／Course

機械学習発展／Advances in Machine Learning

時間割コード
／Course Code

S2201400_S6

開講所属
／Course Offered by

システム工学研究科／Graduate School of Systems Engineering

ターム・学期
／Term・Semester

2025年度／Academic Year　　第3クォーター／3Q

曜限
／Day, Period

木／Thu　3

開講区分
／Semester offered

後期／the latter term

単位数
／Credits

2.0

学年
／Year

1,2

主担当教員
／Main Instructor

八谷　大岳

科目区分
／Course Group

授業形態
／Lecture Form

講義

教室
／Classroom

北１号館Ａ２０３／北１号館Ａ２０３

開講形態
／Course Format

ディプロマポリシー情報
／Diploma Policy

要件年度／Required Year	要件所属／Course Name	ディプロマポリシー／Diploma Policy	DP値／DP Point
2020/04 ～9999/04	システム工学研究科	1.高度な専門性と研究力	9
2020/04 ～9999/04	システム工学研究科	2.協働性と倫理性	1

担当教員情報/Instructor Information

教員名／Instructor	教員所属名／Affiliation
八谷　大岳	システム工学部（教員）

授業の概要・ねらい／Course Aims	この科目では，担当教員の企業での研究開発の経験を活かした機械学習の実例の概説を通し，機械学習における重要なブレークスルー技術の数学的な原理と特性を深く理解することを目的とする．文章生成，画像生成，embedding，異常検知，時系列予測，および集合データ分析に関連する重要なアルゴリズム（RNN，LSTM，seq2seq，Transformer，GPT3，word2vec，CLIP，VAEs，GANs，Glow, Diffusion models，Stable diffusion, MLPMixer, Deep sets, Janossy Poolingなど）に焦点を当て，それらの数学的構造と機能について解説する．この講義を通じて，AI技術の背後にある数学的理論を理解し，それらがどのようにして革新的なデータ生成能力を実現しているかを深く掘り下げる．
到達目標／Course Objectives	・数学的基礎の確立：機械学習の重要なアルゴリズムとモデルの数学的原理を理解し，それらがどのようにブレークスルー技術を作りだしたのかを説明できる・技術の深い理解：各技術の数学的背景を理解することで，それらの動作原理，適用可能な場面，および限界点を識別できる・批判的思考能力：数学的分析を通じて技術を批判的に評価し，改善点や新たな応用方法を提案する能力を身につける
成績評価の方法・基準／Grading Policies/Criteria	授業内で出題する演習レポート，授業後に出題する課題レポート，および最終試験で総合的に評価する．演習レポートと課題レポートは合わせて５０％，最終試験は５０％とする．最終試験は，最後の授業時間内に行う．
教科書／Textbook	授業にて関連する文献を紹介する
参考書・参考文献／Reference Book	ゼロからつくるPython機械学習プログラミング入門・八谷大岳著・講談社・978-4065206126・3,300円
履修上の注意・メッセージ／Notice for Students	・事前にMoodleで公開する講義資料で予習すること・授業中は解説を参考に各自で演習問題を解き，演習レポートを作成すること・授業後は，復習し課題問題を解き課題レポートを作成すること
履修する上で必要な事項／Prerequisite	・数学的基礎知識：線形代数（行列計算、固有値分解など）、微分・積分（偏微分、ヤコブ行列を含む）、確率・統計（確率分布、変数変換、ベイズの定理など）、情報理論（エントロピー、KLダイバージェンスなど）の基本的な理解・前提となる講義内容：学部講義「機械学習基礎」および「人工知能」で扱われる機械学習の内容に関する基礎知識
履修を推奨する関連科目／Related Courses	データ解析（機械学習基礎）、人工知能、人工知能演習
授業時間外学修についての指示／Instructions for studying outside class hours	記載事項なし
その他連絡事項／Other messages	記載事項なし
授業理解を深める方法／How to deepen your understanding of classes	翌回に課題レポートの正答の説明を行う．【「アクティブ・ラーニング」実施要項 ⑪】
オフィスアワー／Office Hours	毎回授業後に、質問および相談時間を設けますので、気軽に聞いてください。
科目ナンバリング／Course Numbering	S61035J11099T501
実務経験／Practical Experience	有

No.	回（日時）／Time (date and time)	主題と位置付け／Subjects and instructor's position	学習方法と内容／Methods and contents
1	1	ガイダンス	ガイダンス、機械学習に必要な数学的準備
2	2	テキスト生成のアルゴリズム入門	NNのおさらい，RNN
3	3	テキスト生成の次の段階	LSTM，Seq2Seq，Beam Search
4	4	テキスト生成技術の進化	Luong AttentionからTransformerへ
5	5	テキスト生成の最先端	GPT3, Pre-LN, BPE, Tokenizer
6	6	テキストと画像の融合	SVD, word2veckからCLIPへ
7	7	画像生成の基礎	VAEsとGANs
8	8	次世代画像生成	FlowからDiffusion ModelsとStable Diffusionへ
9	9	画像生成と異常検知	距離ベースと再現誤差
10	10	時系列データの予測の基礎	状態空間モデルとARIMA
11	11	時系列予測の新時代	TransformerとMLPMixer
12	12	集合データの解析入門	Janossy Pooling，Deep Sets，PointNet
13	13	集合データの解析入門	Janossy Pooling，Deep Sets，PointNet
14	14	集合データの深層解析	Set Transformerから集合マッチングへ
15	15	講義振り返り	講義振り返りとテスト

授業の概要・ねらい／Course Aims	この科目では，担当教員の企業での研究開発の経験を活かした機械学習の実例の概説を通し，機械学習における重要なブレークスルー技術の数学的な原理と特性を深く理解することを目的とする．文章生成，画像生成，embedding，異常検知，時系列予測，および集合データ分析に関連する重要なアルゴリズム（RNN，LSTM，seq2seq，Transformer，GPT3，word2vec，CLIP，VAEs，GANs，Glow, Diffusion models，Stable diffusion, MLPMixer, Deep sets, Janossy Poolingなど）に焦点を当て，それらの数学的構造と機能について解説する．この講義を通じて，AI技術の背後にある数学的理論を理解し，それらがどのようにして革新的なデータ生成能力を実現しているかを深く掘り下げる．
到達目標／Course Objectives	・数学的基礎の確立：機械学習の重要なアルゴリズムとモデルの数学的原理を理解し，それらがどのようにブレークスルー技術を作りだしたのかを説明できる・技術の深い理解：各技術の数学的背景を理解することで，それらの動作原理，適用可能な場面，および限界点を識別できる・批判的思考能力：数学的分析を通じて技術を批判的に評価し，改善点や新たな応用方法を提案する能力を身につける
成績評価の方法・基準／Grading Policies/Criteria	授業内で出題する演習レポート，授業後に出題する課題レポート，および最終試験で総合的に評価する．演習レポートと課題レポートは合わせて５０％，最終試験は５０％とする．最終試験は，最後の授業時間内に行う．
教科書／Textbook	授業にて関連する文献を紹介する
参考書・参考文献／Reference Book	ゼロからつくるPython機械学習プログラミング入門・八谷大岳著・講談社・978-4065206126・3,300円
履修上の注意・メッセージ／Notice for Students	・事前にMoodleで公開する講義資料で予習すること・授業中は解説を参考に各自で演習問題を解き，演習レポートを作成すること・授業後は，復習し課題問題を解き課題レポートを作成すること
履修する上で必要な事項／Prerequisite	・数学的基礎知識：線形代数（行列計算、固有値分解など）、微分・積分（偏微分、ヤコブ行列を含む）、確率・統計（確率分布、変数変換、ベイズの定理など）、情報理論（エントロピー、KLダイバージェンスなど）の基本的な理解・前提となる講義内容：学部講義「機械学習基礎」および「人工知能」で扱われる機械学習の内容に関する基礎知識
履修を推奨する関連科目／Related Courses	データ解析（機械学習基礎）、人工知能、人工知能演習
授業時間外学修についての指示／Instructions for studying outside class hours	記載事項なし
その他連絡事項／Other messages	記載事項なし
授業理解を深める方法／How to deepen your understanding of classes	翌回に課題レポートの正答の説明を行う．【「アクティブ・ラーニング」実施要項 ⑪】
オフィスアワー／Office Hours	毎回授業後に、質問および相談時間を設けますので、気軽に聞いてください。
科目ナンバリング／Course Numbering	S61035J11099T501
実務経験／Practical Experience	有

授業情報／Class Information

基本情報/Basic Information

担当教員情報/Instructor Information