LLM Visualization:大規模言語モデルの可視化

以前、ニューラルネットワークによる文字認識の仕組みを可視化した例をまとめたことがあったけど



こちらはBrendan Bycroft氏による、昨今話題のLLM(大規模言語モデル)の仕組みを各プロセスの解説と共にビジュアルで理解できるWebページ↓

LLM Visualization

このプロジェクトは、GPT-styleネットワークの実際に動作する実装の3Dモデルを表示します。このネットワーク構造はOpenAIのGPT-2, GPT-3(そしておそらくGPT-4)で使用されているものです。
OpenAIのChatGPTの裏側にあるLLMアルゴリズムを視覚的にウォークスルーできます。加算と乗算に至るまでアルゴリズムを隈なく探索でき、プロセス全体の動作を確認できます。

最初に表示されるネットワーク(nano-gpt)は、小さなGPT-styleネットワークで、文字A、B、Cで構成された小さなリストの並び替えを行います。これはAndrej KarpathyによるminGPT実装デモのサンプルモデルです。

このレンダラーは、任意のサイズのネットワークの可視化もサポートしており、より小さいGPT-2サイズでも動作しますが、重み(数100MBある)はダウンロードされません。

初学者にとってとても良い教材だ。ソースコードもGitHubで公開されている↓
https://github.com/bbycroft/llm-viz




3Blue1Brownと有志が日本語訳している3Blue1BrownJapanでもLLMの解説動画が公開されている↓








関連記事

C#で使える遺伝的アルゴリズムライブラリ『GeneticSharp』

Open3D:3Dデータ処理ライブラリ

Mitsuba 3:オープンソースの研究向けレンダラ

Raspberry Pi 2のGPIOピン配置

MVStudio:オープンソースのPhotogrammetryツール

続・ディープラーニングの資料

NeuralNetwork.NET:.NETで使えるTensorFlowライクなニューラルネットワー...

書籍『イラストで学ぶ ディープラーニング』

CGAN (Conditional GAN):条件付き敵対的生成ネットワーク

GAN (Generative Adversarial Networks):敵対的生成ネットワーク

機械学習について最近知った情報

映画から想像するVR・AR時代のGUIデザイン

Rerun:マルチモーダルデータの可視化アプリとSDK

SVM (Support Vector Machine)

GitHub Pagesで静的サイトを作る

AnacondaとTensorFlowをインストールしてVisual Studio 2015で使う

Faster R-CNN:ディープラーニングによる一般物体検出手法

Pix2Pix:CGANによる画像変換

FCN (Fully Convolutional Network):ディープラーニングによるSema...

Iridescence:プロトタイピング向け軽量3D可視化ライブラリ

Transformer Explainer:テキスト生成モデルの可視化ツール

NumSharp:C#で使えるNumPyライクな数値計算ライブラリ

CycleGAN:ドメイン関係を学習した画像変換

YOLO (You Only Look Once):ディープラーニングによる一般物体検出手法

Mask R-CNN:ディープラーニングによる一般物体検出・Instance Segmentatio...

SegNet:ディープラーニングによるSemantic Segmentation手法

ニューラルネットワークで画像分類

Unityで強化学習できる『Unity ML-Agents』

Gource:バージョン管理の履歴を可視化するツール

ドラマ『ファーストクラス』のモーショングラフィックス

3D Gaussian Splatting:リアルタイム描画できるRadiance Fields

書籍『データビジュアライゼーションのデザインパターン20』読了

UnityプロジェクトをGitHubで管理する

Kornia:微分可能なコンピュータービジョンライブラリ

Googleが画像解析旅行ガイドアプリのJetpac社を買収

Accord.NET Framework:C#で使える機械学習ライブラリ

Polyscope:3Dデータ操作用GUIライブラリ

Math Inspector:科学計算向けビジュアルプログラミングツール

フィクションに登場するUIデザインのまとめサイト

Pylearn2:ディープラーニングに対応したPythonの機械学習ライブラリ

PGGAN:段階的に解像度を上げて学習を進めるGAN

PyTorch3D:3Dコンピュータービジョンライブラリ

コメント