LLM Visualization:大規模言語モデルの可視化

以前、ニューラルネットワークによる文字認識の仕組みを可視化した例をまとめたことがあったけど



こちらはBrendan Bycroft氏による、昨今話題のLLM(大規模言語モデル)の仕組みを各プロセスの解説と共にビジュアルで理解できるWebページ↓

LLM Visualization

このプロジェクトは、GPT-styleネットワークの実際に動作する実装の3Dモデルを表示します。このネットワーク構造はOpenAIのGPT-2, GPT-3(そしておそらくGPT-4)で使用されているものです。
OpenAIのChatGPTの裏側にあるLLMアルゴリズムを視覚的にウォークスルーできます。加算と乗算に至るまでアルゴリズムを隈なく探索でき、プロセス全体の動作を確認できます。

最初に表示されるネットワーク(nano-gpt)は、小さなGPT-styleネットワークで、文字A、B、Cで構成された小さなリストの並び替えを行います。これはAndrej KarpathyによるminGPT実装デモのサンプルモデルです。

このレンダラーは、任意のサイズのネットワークの可視化もサポートしており、より小さいGPT-2サイズでも動作しますが、重み(数100MBある)はダウンロードされません。

初学者にとってとても良い教材だ。ソースコードもGitHubで公開されている↓
https://github.com/bbycroft/llm-viz




3Blue1Brownと有志が日本語訳している3Blue1BrownJapanでもLLMの解説動画が公開されている↓








関連記事

書籍『データビジュアライゼーションのデザインパターン20』読了

Kubric:機械学習用アノテーション付き動画生成パイプライン

Rerun:マルチモーダルデータの可視化アプリとSDK

WebGL開発に関する情報が充実してきている

手を動かしながら学ぶデータマイニング

ManimML:機械学習の概念を視覚的に説明するためのライブラリ

GitHub Pagesで静的サイトを作る

Mayaのプラグイン開発

FacebookがDeep learningツールの一部をオープンソース化

Kaolin:3Dディープラーニング用のPyTorchライブラリ

Deep Learningとその他の機械学習手法の性能比較

MLDemos:機械学習について理解するための可視化ツール

Facebookの顔認証技術『DeepFace』

書籍『ゼロから作るDeep Learning』で自分なりに学ぶ

3D Gaussian Splatting:リアルタイム描画できるRadiance Fields

AR (Augmented Reality)とDR (Diminished Reality)

RefineNet (Multi-Path Refinement Network):ディープラーニン...

iOSで使えるJetpac社の物体認識SDK『DeepBelief』

Pylearn2:ディープラーニングに対応したPythonの機械学習ライブラリ

Zibra Liquids:Unity向け流体シミュレーションプラグイン

Transformer Explainer:テキスト生成モデルの可視化ツール

Faster R-CNN:ディープラーニングによる一般物体検出手法

データサイエンティストって何だ?

Google製オープンソース機械学習ライブラリ『TensorFlow』のWindows版が公開された

AnacondaとTensorFlowをインストールしてVisual Studio 2015で使う

オープンソースの顔認識フレームワーク『OpenBR』

CycleGAN:ドメイン関係を学習した画像変換

SegNet:ディープラーニングによるSemantic Segmentation手法

KelpNet:C#で使える可読性重視のディープラーニングライブラリ

書籍『イラストで学ぶ ディープラーニング』

続・ディープラーニングの資料

GAN (Generative Adversarial Networks):敵対的生成ネットワーク

Physics Forests:機械学習で流体シミュレーションを近似する

フィクションに登場するUIデザインのまとめサイト

FCN (Fully Convolutional Network):ディープラーニングによるSema...

NumSharp:C#で使えるNumPyライクな数値計算ライブラリ

東京オリンピックと案内表示

NeuralNetwork.NET:.NETで使えるTensorFlowライクなニューラルネットワー...

UnrealCV:コンピュータビジョン研究のためのUnreal Engineプラグイン

GeoGebra:無料で使える数学アプリ

DCGAN (Deep Convolutional GAN):畳み込みニューラルネットワークによる敵...

ニューラルネットワークと深層学習

コメント