- Published on
「JARVIS」のインストール・使い方
1515文字3分で読めます–––
閲覧数
- Authors
- Name
- 章 有坂
- short bio
- オープンソースソフトウェアのトレンドを追いかけてます。
JARVISは、大規模言語モデル(LLM)とMLコミュニティを接続するシステムです。その主な目的は人工全知能(AGI)を探求し、先進的な研究をコミュニティ全体に提供することですSource 0。
※ NordVPNにこちらから新規登録すると、最大73%オフの割引になります。
インストール・導入方法
JARVISはPythonといくつかの依存関係を必要とします。以下に、CLIとサーバーモードでのセットアップ手順を示します:
CLIモード:
cd server
python awesome_chat.py --config configs/config.default.yaml --mode cli
サーバーモード:
まず、環境をセットアップします:
cd server
conda create -n jarvis python=3.8
conda activate jarvis
conda install pytorch torchvision torchaudio pytorch-cuda=11.7 -c pytorch -c nvidia
pip install -r requirements.txt
次に、モデルをダウンロードします(git-lfs
がインストールされていることを確認してください):
cd models
bash download.sh # `inference_mode`が`local`または`hybrid`の場合に必要
最後に、サーバーを起動します:
cd ..
python models_server.py --config configs/config.default.yaml # `inference_mode`が`local`または`hybrid`の場合に必要
python awesome_chat.py --config configs/config.default.yaml --mode server # for text-davinci-003
Webクライアントを別のマシンで実行する場合は、web/src/config/index.ts
のHUGGINGGPT_BASE_URL
をhttp://{LAN_IP_of_the_server}:{port}/
に設定する必要があります。また、ビデオ生成機能を使用するには、ffmpeg
を手動でH.264でコンパイルする必要がありますSource 0。
使い方
JARVISはコマンドラインインターフェース(CLI)を通じて使用することができます。以下に、CLIモードでJARVISを使用する例を示します:
[ User ]: Given a collection of image A: /examples/a.jpg, B: /examples/b.jpg, C: /examples/c.jpg, please tell me how many zebras in these picture?
[ Jarvis ]: Based on your request, I have used several models to process the images you provided...
また、JARVISはテキストの名前付きエンティティを識別したり、画像に基づいて新しい画像を生成したりすることも可能ですSource 0。
※ NordVPNにこちらから新規登録すると、最大73%オフの割引になります。