transformers.js demo site

ブラウザ内AI実験室

機械学習モデルをあなたのブラウザの中だけで動かす体験サイトです。推論はWebGPUまたはWASMで実行され、入力したテキスト・画像・音声は一切サーバーへ送信されません。サーバーレスの機械学習を、モデルのダウンロード進捗から推論時間まで含めて体験できます。

仕組み

1

モデルをダウンロード

初回のみHugging Face HubからONNX形式のモデルを取得します (各デモにサイズを明記)。取得したモデルはブラウザのCache APIに保存されます。

2

Web Workerで推論

モデルはバックグラウンドのWeb Workerで実行され、ページ操作を妨げません。WebGPU対応環境ではGPUで高速化、非対応でもWASMで動作します。

3

結果はその場で表示

入力データも推論結果もブラウザの外へ出ません。DevToolsのネットワークタブを開けば、推論時に通信が発生しないことを確認できます。

本サイトはtransformers.js (@huggingface/transformers)を使用しています。ONNX Runtimeにより、量子化 (q8) やfp16のモデルをブラウザで直接実行します。一度ダウンロードしたモデルは端末内にキャッシュされるため、2回目以降はオフラインでも動作します。

この端末の対応環境

WebGPU: 判定中...
WASM: 利用可能 (すべてのモダンブラウザで動作)

メモリの少ない端末やモバイルでは、大型モデルの読み込み・推論が失敗する場合があります。各デモはサイズの小さいモデルから試すのがおすすめです。

デモ一覧

モデルはデモページで「読み込む」を押すまでダウンロードされません。まずは体験の速い感情分析からどうぞ。

感情分析

日本語を含む多言語テキストをpositive/neutral/negativeの3値で判定します。テキスト系デモの入門編。

Xenova/distilbert-base-multilingual-cased-sentiments-student
DLサイズ: 約130MB (q8)

背景除去

写真の背景をブラウザ内で切り抜き、透過PNGとしてダウンロードできます。

briaai/RMBG-1.4
DLサイズ: 約42MB (q8) / WebGPU時約84MB (fp16)

物体検出

画像内の物体 (COCO 80クラス) を検出し、バウンディングボックスを重ねて表示します。

Xenova/detr-resnet-50
DLサイズ: 約41MB (q8) / WebGPU時約80MB (fp16)

画像分類

画像をImageNet 1000クラスで分類し、上位5件をスコア付きで表示します。

Xenova/vit-base-patch16-224
DLサイズ: 約84MB (q8) / WebGPU時約165MB (fp16)

文章埋め込み + 類似度検索

日本語サンプル文書20件をベクトル化し、クエリとのコサイン類似度で意味検索します。

Xenova/multilingual-e5-small
DLサイズ: 約113MB (q8)

音声認識 (Whisper)

マイク録音または音声ファイルを日本語で文字起こしします (タイムスタンプ付き)。

onnx-community/whisper-base
DLサイズ: 約73MB (q8)

キャッシュ管理

ダウンロードしたモデルはブラウザのCache APIに保存されます。