日本語 English
| 開講年度/ Academic YearAcademic Year |
20242024 |
| 科目設置学部/ CollegeCollege |
人工知能科学研究科/Graduate School of Artificial Intelligence and ScienceGraduate School of Artificial Intelligence and Science |
| 科目コード等/ Course CodeCourse Code |
VR521/VR521VR521 |
| テーマ・サブタイトル等/ Theme・SubtitleTheme・Subtitle |
|
| 授業形態/ Class FormatClass Format |
ハイフレックス/HyFlexHyFlex |
| 授業形態（補足事項）/ Class Format (Supplementary Items)Class Format (Supplementary Items) |
|
| 授業形式/ Class StyleCampus |
講義/LectureLecture |
| 校地/ CampusCampus |
池袋/IkebukuroIkebukuro |
| 学期/ SemesterSemester |
秋学期/Fall semesterFall semester |
| 曜日時限・教室/ DayPeriod・RoomDayPeriod・Room |
月6/Mon.6 Mon.6 ログインして教室を表示する（Log in to view the classrooms.） |
| 単位/ CreditsCredits |
22 |
| 科目ナンバリング/ Course NumberCourse Number |
AIR6600 |
| 使用言語/ LanguageLanguage |
日本語/JapaneseJapanese |
| 履修登録方法/ Class Registration MethodClass Registration Method |
科目コード登録/Course Code RegistrationCourse Code Registration |
| 配当年次/ Assigned YearAssigned Year |
配当年次は開講学部のR Guideに掲載している科目表で確認してください。配当年次は開講学部のR Guideに掲載している科目表で確認してください。 |
| 先修規定/ Prerequisite RegulationsPrerequisite Regulations |
|
| 他学部履修可否/ Acceptance of Other CollegesAcceptance of Other Colleges |
履修登録システムの『他学部・他研究科履修不許可科目一覧』で確認してください。 |
| 履修中止可否/ Course CancellationCourse Cancellation |
－（履修中止制度なし/ No system for cancellation) |
| オンライン授業60単位制限対象科目/ Online Classes Subject to 60-Credit Upper LimitOnline Classes Subject to 60-Credit Upper Limit |
|
| 学位授与方針との関連/ Relationship with Degree PolicyRelationship with Degree Policy |
各授業科目は、学部・研究科の定める学位授与方針（DP）や教育課程編成の方針（CP）に基づき、カリキュラム上に配置されています。詳細はカリキュラム・マップで確認することができます。 |
| 備考/ NotesNotes |
Understand more advanced topics of deep learning based on the basic knowledge of machine learning and deep learning. This course also gives a broad overview of the development of deep learning techniques to solve more specific tasks.
Deep learning, which has made great strides in the last decade or so, has been developed based on theoretical studies. Therefore, in this lecture, we will develop the ability to understand and improve models and methods based on the understanding of the theoretical mechanism of deep learning, and the basic ability to actually implement the method designed by ourselves. For that purpose, we will take up some important theoretical topics and experience numerical experiments and implementations after understanding them. We will also cover some specific task models to understand how such careful analysis is applied in actual development.
| 1 | 深層学習における深さの役割について：表現能力、Residual化、loss landscapeなど |
| 2 | 深層学習の汎化について：flatness仮説、lottery ticket仮説など |
| 3 | ライブラリによる実習 |
| 4 | 深層学習モデルに対する敵対的攻撃 |
| 5 | 深層学習モデルの解釈性 |
| 6 | ライブラリによる実習 |
| 7 | グラフニューラルネット１ |
| 8 | グラフニューラルネット２ |
| 9 | 深層生成モデルの進展：確率拡散モデル１ |
| 10 | 深層生成モデルの進展：確率拡散モデル２ |
| 11 | ライブラリによる実習 |
| 12 | アテンション機構の進展 |
| 13 | コンピュータビジョンとTransformer |
| 14 | TransformerとLLMs |
板書 /Writing on the Board
スライド（パワーポイント等）の使用 /Slides (PowerPoint, etc.)
上記以外の視聴覚教材の使用 /Audiovisual Materials Other than Those Listed Above
個人発表 /Individual Presentations
グループ発表 /Group Presentations
ディスカッション・ディベート /Discussion/Debate
実技・実習・実験 /Practicum/Experiments/Practical Training
学内の教室外施設の利用 /Use of On-Campus Facilities Outside the Classroom
校外実習・フィールドワーク /Field Work
上記いずれも用いない予定 /None of the above
あらかじめ深層学習の基礎や、線形代数、解析学、確率、統計学、Keras/TensorFlowあるいはPyTorchを用いたコーディング等の基本的な事柄を習得しておくこと。
| 種類 (Kind) | 割合 (%) | 基準 (Criteria) |
|---|---|---|
| 平常点 (In-class Points) | 100 |
3回程度のレポート(100%) |
| 備考 (Notes) | ||
なし/None
発展の早い分野であるので、授業で取り扱う内容は受講者の希望を聞いて修正したり、あるいは直近の進展を反映させた内容に変更したりすることがある。
本科目は、5年以上の実務経験を有する実務家教員による授業であり、全授業回数の50％以上がディスカッションなど双方向形式の授業によって運営される。
機械学習、深層学習の基礎的な知識をもとに、深層学習のより発展的な話題を理解する。また、より具体的なタスクを解決するための深層学習技術の進展についても広く概観する。
Understand more advanced topics of deep learning based on the basic knowledge of machine learning and deep learning. This course also gives a broad overview of the development of deep learning techniques to solve more specific tasks.
この十年ほどで飛躍的に進展した深層学習は、様々なアルゴリズム・理論的な研究に基づいて開発されてきた。そこでこの講義では、深層学習の理論的な仕組みを理解した上でモデルや手法を理解・改良し、さらに自身の設計した手法を実際に実装するための基礎的な能力を養う。そのために、重要な理論的トピックスをいくつか取り上げて、それを理解した上で数値実験・実装を経験する。またこのような慎重な解析がどのように実際の開発に応用されているのかを理解するため、いくつかの具体的なタスク・モデルも取り上げる。
Deep learning, which has made great strides in the last decade or so, has been developed based on theoretical studies. Therefore, in this lecture, we will develop the ability to understand and improve models and methods based on the understanding of the theoretical mechanism of deep learning, and the basic ability to actually implement the method designed by ourselves. For that purpose, we will take up some important theoretical topics and experience numerical experiments and implementations after understanding them. We will also cover some specific task models to understand how such careful analysis is applied in actual development.
| 1 | 深層学習における深さの役割について：表現能力、Residual化、loss landscapeなど |
| 2 | 深層学習の汎化について：flatness仮説、lottery ticket仮説など |
| 3 | ライブラリによる実習 |
| 4 | 深層学習モデルに対する敵対的攻撃 |
| 5 | 深層学習モデルの解釈性 |
| 6 | ライブラリによる実習 |
| 7 | グラフニューラルネット１ |
| 8 | グラフニューラルネット２ |
| 9 | 深層生成モデルの進展：確率拡散モデル１ |
| 10 | 深層生成モデルの進展：確率拡散モデル２ |
| 11 | ライブラリによる実習 |
| 12 | アテンション機構の進展 |
| 13 | コンピュータビジョンとTransformer |
| 14 | TransformerとLLMs |
板書 /Writing on the Board
スライド（パワーポイント等）の使用 /Slides (PowerPoint, etc.)
上記以外の視聴覚教材の使用 /Audiovisual Materials Other than Those Listed Above
個人発表 /Individual Presentations
グループ発表 /Group Presentations
ディスカッション・ディベート /Discussion/Debate
実技・実習・実験 /Practicum/Experiments/Practical Training
学内の教室外施設の利用 /Use of On-Campus Facilities Outside the Classroom
校外実習・フィールドワーク /Field Work
上記いずれも用いない予定 /None of the above
あらかじめ深層学習の基礎や、線形代数、解析学、確率、統計学、Keras/TensorFlowあるいはPyTorchを用いたコーディング等の基本的な事柄を習得しておくこと。
| 種類 (Kind) | 割合 (%) | 基準 (Criteria) |
|---|---|---|
| 平常点 (In-class Points) | 100 |
3回程度のレポート(100%) |
| 備考 (Notes) | ||
なし/None
発展の早い分野であるので、授業で取り扱う内容は受講者の希望を聞いて修正したり、あるいは直近の進展を反映させた内容に変更したりすることがある。
本科目は、5年以上の実務経験を有する実務家教員による授業であり、全授業回数の50％以上がディスカッションなど双方向形式の授業によって運営される。