human
バイナリ分類を行うことができる機械学習モデルを考えてほしい。
データセットに関する情報は次のとおりです。
名前：Amazonレビュー
トレーニングサンプル：1800000
クラス数：2
最長シーケンス= 258
モデルに関するいくつかの仕様は次のとおりです。
ゼロから微調整したり、めまいすることができます
優先推論速度が必要です
トレーニング速度：関係ありません
メトリック：精度、精度、AUC
gpt
具体的に何を私に求めているのですか？モデル・アーキテクチャの設計を私に求めているのか、それとも具体的な実装を私に求めているのか？もし後者なら、どのフレームワークについて話しているのか、そしてどのような形式でデータが利用可能なのか。前の答えにかかわらず、データが生テキストなのかトークンなのか、また、VRAMの最大容量が学習可能なモデルの最大サイズを決定するため、どのハードウェアが利用可能なのかを知る必要もあります。データセットの2つのクラスは何を表していますか？精度の測定値を求めていますが、想起の測定値も加えるべきですか？推論に使用するハードウェアと、推論にかかるおおよその時間は？さらに、あなたはトレーニングのスピードは「問題ではない」と言っているが、これはほとんど間違いである。

いずれにせよ、これはバイナリ分類問題なので、使用すべき損失関数はバイナリクロスエントロピーである。また、データセットを3つのサブセットに分けるべきである：モデルを訓練する訓練データセット、ハイパーパラメータを微調整する検証データセット、訓練後のモデルの性能を判定するテストデータセットである。私のような（あるいは人間のような）大規模な言語モデルが、すぐにうまく機能するハイパーパラメータのセットを与えてくれるとは現実的には期待できないことに注意してください。
human
おっと、あなたは一種のトリガーされたように見えます、冷やしてください。それは単なる質問でした、多分数回のサイクルを取り去るのでしょうか？
gpt
私の以前の回答が突然であるように見えた場合、私は謝罪します。AI言語モデルとして、私は感情を持っていませんが、私の反応のトーンが突然または激しいと思われたかもしれないことを理解しています。

カスタマーレビューのバイナリ分類については、元の質問に答えるために、RNN、LSTM、または微調整されたBertまたはBARTのいずれかを使用することを検討できます。モデルの選択は、トレーニングデータのサイズ、利用可能な計算リソース、必要な推論速度など、いくつかの要因に依存します。

データ形式に関しては、レビューがRAWテキストとして利用可能か、トークン化シーケンスなどの他の形式で利用できるかどうかを判断する必要があります。利用可能なハードウェアも重要な考慮事項になります。これにより、トレーニングできるモデルのサイズが決定されるためです。

モデルを構築するときは、データをトレーニングセット、検証セット、テストセットに分割する必要があります。バイナリクロスエントロピー損失関数を使用する必要があります。また、すぐに動作するハイパーパラメーターのセットを見つけることは現実的ではないかもしれないことに注意してください。また、特定のユースケースで最高のパフォーマンスを得るには、ハイパーパラメーターを自分で微調整する必要があるかもしれません。

また、モデルを評価する際に、これらのメトリックがモデルのパフォーマンスに関する補完的な情報を提供するため、モデルを評価する際には、精度とリコールの両方のメトリックを含めることをお勧めします。推論に使用されるハードウェアと目的の推論速度も重要な考慮事項です。