「使用可能なRAMをすべて使用した後で、セッションがクラッシュしました」というエラーメッセージは、Google Colaboratory(Colab)上で実行しているコードがメモリ(RAM)を使いすぎている場合に発生します。この問題を解決する方法のメモです。
1. モデルのサイズを縮小
2. バッチサイズや生成トークン数を減らす
# 生成するトークン数を減らす
😊 outputs = model.generate(**inputs, max_new_tokens=50) # 元々100トークンだった場合
3. キャッシュのクリア
🙂↕️import gc
😆torch.cuda.empty_cache()
😉gc.collect()
4.GPU / TPU の変更
使用していたGPUからT4 GPUに変更したら動いた!
import requests
try:
response = requests.get('https://www.google.com')
if response.status_code == 200:
print("インターネット接続は正常です")
else:
print(f"接続は確立されましたが、エラーが発生しました: {response.status_code}")
except requests.ConnectionError:
print("インターネット接続に問題があります")
# Jupyter インストール
!pip install notebook
ーーー
# ローカルマシンにJupyterとColab用のツールをインストール
!pip install jupyter_http_over_ws
!jupyter serverextension enable --py jupyter_http_over_ws
# Jupyterノートブックの起動
!jupyter notebook --NotebookApp.allow_origin='https://colab.research.google.com' --port=8888 --no-browser