LLM Visualization:大規模言語モデルの可視化

以前、ニューラルネットワークによる文字認識の仕組みを可視化した例をまとめたことがあったけど



こちらはBrendan Bycroft氏による、昨今話題のLLM(大規模言語モデル)の仕組みを各プロセスの解説と共にビジュアルで理解できるWebページ↓

LLM Visualization

このプロジェクトは、GPT-styleネットワークの実際に動作する実装の3Dモデルを表示します。このネットワーク構造はOpenAIのGPT-2, GPT-3(そしておそらくGPT-4)で使用されているものです。
OpenAIのChatGPTの裏側にあるLLMアルゴリズムを視覚的にウォークスルーできます。加算と乗算に至るまでアルゴリズムを隈なく探索でき、プロセス全体の動作を確認できます。

最初に表示されるネットワーク(nano-gpt)は、小さなGPT-styleネットワークで、文字A、B、Cで構成された小さなリストの並び替えを行います。これはAndrej KarpathyによるminGPT実装デモのサンプルモデルです。

このレンダラーは、任意のサイズのネットワークの可視化もサポートしており、より小さいGPT-2サイズでも動作しますが、重み(数100MBある)はダウンロードされません。

初学者にとってとても良い教材だ。ソースコードもGitHubで公開されている↓
https://github.com/bbycroft/llm-viz




3Blue1Brownと有志が日本語訳している3Blue1BrownJapanでもLLMの解説動画が公開されている↓






関連記事

DensePose:画像中の人物表面のUV座標を推定する

Manim:Pythonで使える数学アニメーションライブラリ

GitHub Pagesで静的サイトを作る

CGAN (Conditional GAN):条件付き敵対的生成ネットワーク

D3.js:JavaScriptのデータビジュアライゼーションライブラリ

Gource:バージョン管理の履歴を可視化するツール

Googleが画像解析旅行ガイドアプリのJetpac社を買収

フィクションに登場するUIデザインのまとめサイト

Deep Fluids:流体シミュレーションをディープラーニングで近似する

Polyscope:3Dデータ操作用GUIライブラリ

映画から想像するVR・AR時代のGUIデザイン

Kornia:微分可能なコンピュータービジョンライブラリ

iOSで使えるJetpac社の物体認識SDK『DeepBelief』

Windows10でPyTorchをインストールしてVSCodeで使う

Unityで強化学習できる『Unity ML-Agents』

Immersive Math:線形代数をインタラクティブに学べるWebサイト

Perfumeのライブパフォーマンスのビジュアル

Physics Forests:機械学習で流体シミュレーションを近似する

Facebookの顔認証技術『DeepFace』

機械学習について最近知った情報

オープンソースの顔認識フレームワーク『OpenBR』

AR (Augmented Reality)とDR (Diminished Reality)

畳み込みニューラルネットワーク (CNN: Convolutional Neural Network...

Deep Learningとその他の機械学習手法の性能比較

DCGAN (Deep Convolutional GAN):畳み込みニューラルネットワークによる敵...

画像生成AI Stable Diffusionで遊ぶ

PSPNet (Pyramid Scene Parsing Network):ディープラーニングによ...

Kaolin:3Dディープラーニング用のPyTorchライブラリ

MLDemos:機械学習について理解するための可視化ツール

機械学習に役立つPythonライブラリ一覧

TorchStudio:PyTorchのための統合開発環境とエコシステム

Raspberry Pi 2のGPIOピン配置

ニューラルネットワークで画像分類

読みやすくて高速なディープラーニングのフレームワーク『Caffe』

GAN (Generative Adversarial Networks):敵対的生成ネットワーク

機械学習のオープンソースソフトウェアフォーラム『mloss(machine learning ope...

書籍『データビジュアライゼーションのデザインパターン20』読了

CGのためのディープラーニング

SSD (Single Shot Multibox Detector):ディープラーニングによる一般...

TensorSpace.js:ニューラルネットワークの構造を可視化するフレームワーク

書籍『仕事ではじめる機械学習』を読みました

Mayaのプラグイン開発

コメント