シラバス参照
|
シラバス参照
|
| 科目一覧へ戻る | 2025/06/24 現在 |
|
開講科目名 ／Course |
ディープラーニング特論／Deep Learning | ||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|
|
時間割コード ／Course Code |
S2201350_S6 | ||||||||||
|
開講所属 ／Course Offered by |
システム工学研究科／Graduate School of Systems Engineering | ||||||||||
|
ターム・学期 ／Term・Semester |
2025年度／Academic Year 第3クォーター／3Q | ||||||||||
|
曜限 ／Day, Period |
火／Tue 4, 木／Thu 4 | ||||||||||
|
開講区分 ／Semester offered |
第3クォーター／3Q | ||||||||||
|
単位数 ／Credits |
2.0 | ||||||||||
|
学年 ／Year |
1,2 | ||||||||||
|
主担当教員 ／Main Instructor |
陳 金輝 | ||||||||||
|
授業形態 ／Lecture Form |
講義 | ||||||||||
|
教室 ／Classroom |
北３号館Ｂ２０２／北３号館Ｂ２０２ | ||||||||||
|
開講形態 ／Course Format |
|||||||||||
|
ディプロマポリシー情報 ／Diploma Policy |
|
|
教員名 ／Instructor |
教員所属名 ／Affiliation |
|---|---|
| 陳 金輝 | システム工学部（教員） |
|
授業の概要・ねらい ／Course Aims |
近年知的情報技術は機械学習により急速に発展している．ディープラーニングは，機械学習の最も代表的な手法の１つとして近年幅広く分野へ活用されている．この講義ではディープラーニングを中心にして機械学習の基礎からディープラーニングの理論，処理方式，その応用技術に関する基礎知識を学んでいく． |
|---|---|
|
到達目標 ／Course Objectives |
・ディープラーニングに関連する，理論，処理方式，研究の現状を理解する． ・ディープラーニングによる認識，予測，生成などに関する要素技術の基礎知識を習得する． |
|
成績評価の方法・基準 ／Grading Policies/Criteria |
成績は個人レポート（30%），グループ発表(60%)，学習態度等（10%）で評価される 課題発表の議論・質疑に積極的参加するこに意味がある |
|
教科書 ／Textbook |
資料配布 |
|
参考書・参考文献 ／Reference Book |
下記の書籍は講義では用いませんでが，講義の内容を理解する上で役に立つ書籍です． ・ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装，斎藤 康毅，オライリージャパン , 2016，ISBN:978-4873117584 ・CVPR，ICCV，ECCV等論文（詳細は配布資料に記載がある） |
|
履修上の注意 ・メッセージ ／Notice for Students |
・講義前に配布資料（PDF）に目を通しておく |
|
履修する上で必要な事項 ／Prerequisite |
本講義では発表はグループワークで行われること，班ごとに事前に決めた知識単元の内容について参考書などを調査し，その内容をパワーポイントで発表する．なお，一回目の講義で履修の意思確認と班分けを決めるため，必ず出席すること． |
|
履修を推奨する関連科目 ／Related Courses |
記載なし |
|
授業時間外学修についての指示 ／Instructions for studying outside class hours |
決めた発表内容について参考書等に関連の参考内容を精査して，その内容をパワーポイントでまとめて発表しましょう 1単位の学修のために必要な学修量は，授業時間と予習復習の時間をあわせて45時間と定められている．それぞれに見合う自主的学修時間を確保すること． |
|
その他連絡事項 ／Other messages |
・グループ発表により，時限の割当が足りない場合は16回目を増設することもある ・資料はペーパレス化のためPDFデータで配布される |
|
授業理解を深める方法 ／How to deepen your understanding of classes |
・履修同士とのチームワーク ・参考書，学会論文，ネットワーク中参考資料などを積極的調査し活用すること |
|
オフィスアワー ／Office Hours |
随時対応，但し都合上調整のため事前に陳までご連絡（ckinki@wakayama-u.ac.jp） |
|
科目ナンバリング ／Course Numbering |
S61015J11099T515 |
|
実務経験 ／Practical Experience |
無 |
| No. | 回（日時） ／Time (date and time) |
主題と位置付け ／Subjects and position in the whole course |
学習方法と内容 ／Methods and contents |
備考（担当） ／Notes |
|---|---|---|---|---|
| 1 | 1 | オリエンテーションと授業概要 | ・オリエンテーション ・機械学習の一種とするディープラーニング ・なぜ深層学習を学ぶのか ・諸概念の紹介 ・ディープラーニング研究現状の概要 |
|
| 2 | 2 | 背景知識（1）：線形モデル | ・線形回帰と損失関数 ・一般化線形モデルとロジスティック回帰 ・線形モデルとその応用 |
|
| 3 | 3 | 背景知識（2）：アンサンブル学習 | ・Random Forests ・Bagging ・Boosting ・アンサンブル法とディープラーニング |
|
| 4 | 4 | ディープラーニングの基礎 | ・ディープラーニング君の履歴書 ・ニューロンとその構成 ・レイヤー構造と学習の３ステップ ・最近代表的ディープラーニング研究の簡単紹介 |
|
| 5 | 5 | ディープラーニングモデルの学習（1） | ・入力と出力 ・パラメータの計算 ・損失関数 |
|
| 6 | 6 | ディープラーニングモデルの学習(2) | ・勾配降下法によるパラメータの更新 -勾配連鎖律とニュロンパラメータの更新 -順伝播 -逆伝播 |
|
| 7 | 7 | ディープラーニングで起きる問題とその対処策（１） | ・学習段階とテスト段階における起きそうな問題 ・学習段階での問題とその対処策 -活性化関数の改善：ReLu, Maxout等の使用 -学習率の改善：RMSProp，Momentum，Adam |
|
| 8 | 8 | ディープラーニングで起きる問題とその対処策（２） | ・テスト段階での対策（過学習問題） -Early Stop -正則化（L1，L2） - Dropout |
|
| 9 | 9 | 期中知識点整理のためのプレゼンテーション | 指示によりグループごとにスライドを作成しておく | これまで紹介した内容の最新関連研究論文をテーマとする発表会． |
| 10 | 10 | 畳み込みニューラルネットワーク（CNN） | ・画像認識からメリットの紹介 ・畳み込み層 ・プーリング層 ・ベクトル化処理 ・（可視化Demoを用いて）CNN君の身体構造を理解 ・CNNの応用事例 -アルファ碁君の「脳」構造，なぜ人間に勝てたの？ -そのたの応用（画像認識等） |
|
| 11 | 11 | 敵対的生成ニューラルネットワーク（GAN・1） | ・生成タスクについて ・GANの構成とゲーム理論 ・GANの応用と研究現状 |
|
| 12 | 12 | 敵対的生成ニューラルネットワーク（GAN・2） | ・GANモデルの学習 ・GANの様々な応用 |
|
| 13 | 13 | 敵対的生成ニューラルネットワーク（GAN・3） | ・GANの数理理論 ・GANの最適解とJS divergence ・問題点とそれを解決ためのWasserstein距離 ・代表的生成AIモデルの紹介とその応用 |
|
| 14 | 14 | attention機構 | ・Sequence to Sequence (Seq2se)システム ・attention機構の構成 -QKVパラメータとその計算 -並列処理による学習 -位置情報のエンコーディング ・attention機構とその他の深層学習モデルとの比較 |
|
| 15 | 15 | 全体まとめとプレゼンテーション（1） | 事前指示に従ってグループごとにスライドを作成しておく | |
| 16 | 16 | 全体まとめとプレゼンテーション（2） | 事前指示に従ってグループごとにスライドを作成しておく |