近況（2025年11月10日）

Mon Nov 10 09:25:11 JST 2025 (modified: Sun Nov 30 16:56:32 JST 2025)
views: 4265, keywords:研究, LLM, VLM, VLA, Transformer

近況（2025年11月10日）

　半年ぶりの更新です。ずっとブログやシェル芸勉強会、連載の部分以外の自作シェルの開発をさぼって半年間、ニューラルネット〜VLA（画像とか言葉の指示とかでロボットを動かすやつ）の勉強をしていました。特にシェル芸界隈のみなさますみません。

きっかけ

　5月頭に急に後期の大学院の画像処理の講義を担当することになって、Transformerの使用を前提に講義を組み直すことにしました。「言葉を駆使する人間はめんどくさくて邪悪」という考えを拗らせているため言語関係は全然興味がなかったのですが、学生さんがSegment Anything Model（SAM）を使って研究するのを見ていて、「言語を絡めたほうが画像処理は柔軟になる」という今思うと当たり前なことに気づいて、ちょっと興味が出てきたころでした。単なる道具じゃなくて、中身も知っておこうと。

　4月末でブログの更新が止まっているのは、そこから勉強を最優先にしたからです。5月以降、実家に1回行った以外は関東から出ずに引きこもっていました。

問題

　他にいろいろ研究・執筆ネタがあったので、個人的にはニューラルネットワークに全く手を出してこなかったというクリティカルな問題がありました。研究室からはそれ関係の論文が出てて賞ももらってたりしますが、学生さんの主体的な努力と、そこそこ年季の入った教員として、知らない分野を扱うときの指導のコツを駆使しただけで、私個人は素人です。

対応

　とりあえず研究室に配属された4年生に戻り、忙しいというオッサン（自分）の声は全て遮断して文献を読み漁りました。必読のゼロから作るDeep Learningから初めて、学生のときに雑に勉強していたのを真面目に学び直し、あとはTransformerの解説書を何冊か読みました。んで、その後、主要な論文を読み始め、分からんことがあると教科書に戻ったり、引用されている論文を読んでいきました。最終的にπ0というVLAの論文を読んで、だいたいなにやってるか分かるかなあ・・・というところまできました。

　改めて近年の人工ニューラルネットワークを勉強した感想ですが、確率論や従来の機械学習の手法が取り入れられていたり、モデルが古典的な画像処理方法を獲得していたり、思ったより合理的な世界なんだなあと思いました。論文中に確率の式が出てきて「あーあーあーそうね」という箇所が多くて、なんか首の皮一枚つながった感があります。

　特に、オートエンコーダーのところは、自分がニューラルネットなしで博士論文でやってたこと（方策の圧縮）と関係するので、試したことないけどなんか共感しました。オートエンコーダーの論文が出たのは自分が博士論文を書いていた頃の2006年なので、食わず嫌いではないです念のため。

錬成された講義資料

　元々素人が作ったものなんですが、学生さんはこれ見て私の説明受けて勉強をするのですから、責任をとるという意味で公開します。たぶん学生さんの代わりに論文数十本分の輪講資料を作ったという意味では、おそらく有益なんじゃないかなと。いや、有益に違いありません。もちろん間違いがある可能性もあるので、学生さんのために優しくご指摘ください。講義動画はYouTubeにアップしません絶対に。「論文を100本読めば専門家」という言葉もありますが、実践がないといけないような気がします。

あと2回、次のようにテーマが残っていますが、とりあえず↑でVLAまで行きました。

第11回: NeRF
第12回: 3D Gaussian Splatting

感想

　研究室配属された新人に戻ったのは、千葉工大赴任直後にROSの威力を見せつけられた2015年に続き2度目でした。特に自分のいる分野は進みが早いので、今後も何回か繰り返すんでしょうか。ていうか日頃から論文をちゃんと読んでればそんな必要はないはずなので、普段から勉強されてる先生たちには頭があがりません。

現場からは以上です。

prev:自作シェルの進捗（2025年4月25日） next:12月2日にRSJセミナーに登壇するとか自作シェルの連載4年目突入とか

上田ブログ

書いた本（たぶんためになる）

近況（2025年11月10日）

きっかけ

問題

対応

錬成された講義資料

感想

やり散らかし一覧

記事いろいろ