オープンウェイトとは？｜オープンソースとの違いを徹底解説！

近年、AI分野において「オープンウェイト(Open Weight)」という概念が注目を集めています。オープンウェイトとは、学習済みのAIモデルを公開し、誰もが自由に利用できるようにすることを指します。一方、オープンソースはソースコードを公開し、自由な再配布や改変を許可する概念です。
ChatGPTをはじめとしたAIが注目を集め、その元となっているTransformerなどのモデルは、プログラミングの代わりにデータを追加することで性能を向上させることができます。そのためそのモデルを作成したソースコード自体はオープンにしなくても、モデルとその重みと呼ばれるパラメータを公開するだけで価値が出るようになってきました。

今回は、オープンウェイトとオープンソースの違いについて詳しく見ていきましょう。

オープンウェイトとは

オープンウェイトとは、事前学習済みのAIモデルを公開し、誰もが自由に利用、応用できるようにすることです。オープンウェイトの特徴は以下の通りです。

学習済みモデルの公開: 訓練に膨大な時間とコストがかかるAIモデルを、学習済みの状態で公開します。
商用利用の許可: オープンウェイトのモデルは、商用利用を含む幅広い用途で利用できます。
コミュニティによる発展: オープンウェイトのモデルは、コミュニティによる改良や応用が期待されています。

オープンウェイトのモデルは、モデル自体とそのウェイトが公開されているので、継続学習をしたり、ファインチューニングをしたりしてより精度を向上させたり専門性を持たせたり、蒸留をしてより軽量なものを作成したりすることができます。

オープンウェイトのLLM(大規模言語モデル)の代表例として

- ChatGPTに利用されているTransformerよりもより高速で性能が良くなるモデルアーキテクチャとされているMambaベースのモデル
- オープンウェイトの大規模言語モデルとしては最高性能でGPT-4と比較しても遜色のないアウトプットを出せるとされているもの

などが挙げられます。

オープンソースとは

オープンソース(Open Source)とは、ソフトウェアのソースコードを公開し、誰もが自由に利用、改変、再配布できるようにすることです。オープンソースの特徴は以下の通りです。

ソースコードの公開: ソフトウェアのソースコードを公開し、誰もが自由に閲覧、利用できるようにします。
自由な再配布: オープンソースのソフトウェアは、通常自由に再配布することが許可されています。
派生物の作成: オープンソースのソフトウェアは、誰もが自由に改変し、派生物を作成できます。

基本的にはこのような特徴がありますが、ライセンスにより商用利用が可能か、作者を表示し続けなければならないか、改変後のソースをオープンのままにしないといけないかなどが変わる可能性があります。

LLM(大規模言語モデル)の場合は、オープンソースの場合は学習のさせ方や細かいテクニックが公開されていることが多いです。場合によっては学習に利用したデータも公開されていたりします。
オープンソースのLLMの具体的な例として、X(旧Twitter)でイーロンマスクがClosedになっているOpenAIを揶揄するために公開させたと言われるGrokが挙げられます。