まず、一般ユーザー、管理者、サービスアカウントの違いを理解する必要があります。また、sudo コマンドの目的を理解し、アクセス制限を無視して無闇に使用しないようにしましょう。
自分の環境で作業してください。「自分の環境」とは、ホームディレクトリ(またはサービスアカウントのディレクトリ)での作業を意味します。管理者として作業している場合、一般ユーザーが使用する場所にファイルを作成しないようにしましょう。
Python では、仮想環境を作成する必要があります。これは IDE(PyCharm)での作業にも、シェルでの作業にも適用されます。
モジュールをインストールする際、次のようなエラーに遭遇する可能性があります:
pip install vllm
返答:
error: externally-managed-environment
× This environment is externally managed
╰─> To install Python packages system-wide, try apt install
python3-xyz, where xyz is the package you are trying to
install.
このエラーは、システムの Python を使用すべきではない(sudo を使って解決すべきではない)ことを示しています。提案されている python3-xyz のインストールは推奨しません。代わりに、まずシステムに python3-full パッケージがインストールされているか確認してください:
sudo apt install python3-full
次に、仮想環境を作成します(これにより、システムの Python モジュールが指定されたディレクトリにコピーされ、以降のインストールはその環境内にのみ行われます):
python3 -m venv /home/di/.venv
その後、仮想環境内の Python を使用します:
# バージョン確認
~/.venv/bin/python3 --version
Python 3.12.3
これで、モジュールのインストールを再開できます:
~/.venv/bin/pip install torch
~/.venv/bin/pip install vllm
ここでは、
ModuleNotFoundError: No module named 'torch'などのエラーが発生する場合があります。その場合は、~/.venvを削除し、OSのパッケージを更新し、~/.venv/bin/pip install --upgrade pipで pip を更新した後、~/.venvを再作成してください。
また、Python が VLLM に対応していない場合(これは別の話題です)、製品の最新インストール手順(https://nm-vllm.readthedocs.io/en/latest/getting_started/installation.html)を参照してください。
インストールが完了するまでお待ちください:
...
Downloading gguf-0.17.1-py3-none-any.whl (96 kB)
Downloading httpx-0.28.1-py3-none-any.whl (73 kB)
Downloading httpcore-1.0.9-py3-none-any.whl (78 kB)
Downloading h11-0.16.0-py3-none-any.whl (37 kB)
Downloading huggingface_hub-0.33.1-py3-none-any.whl (515 kB)
Downloading hf_xet-1.1.5-cp37-abi3-manylinux_2_17_x86_64.manylinux2014_x86_64.whl (3.1 MB)
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 3.1/3.1 MB 3.8 MB/s eta 0:00:00
Downloading fsspec-2025.5.1-py3-none-any.whl (199 kB)
Downloading interegular-0.3.3-py37-none-any.whl (23 kB)
Downloading jinja2-3.1.6-py3-none-any.whl (134 kB)
Downloading MarkupSafe-3.0.2-cp312-cp312-manylinux_2_17_x86_64.manylinux2014_x86_64.whl (23 kB)
Downloading mistral_common-1.6.2-py3-none-any.whl (6.5 MB)
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 6.5/6.5 MB 3.5 MB/s eta 0:00:00
Downloading jsonschema-4.24.0-py3-none-any.whl (88 kB)
Downloading attrs-25.3.0-py3-none-any.whl (63 kB)
Downloading jsonschema_specifications-2025.4.1-py3-none-any.whl (18 kB)
Downloading openai-1.91.0-py3-none-any.whl (735 kB)
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 735.8/735.8 kB 2.9 MB/s eta 0:00:00
Downloading distro-1.9.0-py3-none-any.whl (20 kB)
Downloading jiter-0.10.0-cp312-cp312-manylinux_2_17_x86_64.manylinux2014_x86_64.whl (352 kB)
Downloading typing_extensions-4.14.0-py3-none-any.whl (43 kB)
Downloading opencv_python_headless-4.11.0.86-cp37-abi3-manylinux_2_17_x86_64.manylinux2014_x86_64.whl (50.0 MB)
━━━━━━━━━━╺━━━━━━━━━━━━━━━━━━━━━━━━━━━ 15.2/50.0 MB 2.6 MB/s eta 0:00:14