「LLM-jp-3 172B beta1」公開
国立情報学研究所の大規模言語モデル研究開発センターが開発している約1720億パラメータ(GPT-3級)の大規模言語モデル「LLM-jp-3 172B」のプレビュー版「LLM-jp-3 172B beta1」を公開しました。また、その事前学習コーパスを公開しました。
- ベースモデル:https://huggingface.co/llm-jp/llm-jp-3-172b-beta1
- 指示学習済みモデル:https://huggingface.co/llm-jp/llm-jp-3-172b-beta1-instruct
- 事前学習コーパス:https://gitlab.llm-jp.nii.ac.jp/datasets/llm-jp-corpus-v3
詳細と最新の開発状況についてはプロジェクトページをご覧ください。