「Amazonデータで微調整する前に、最初に同様のタスクでBERTモデルを事前にトレーニングする」と言うとき、どういう意味ですか？別のレビューデータセットを見つける必要がありますか？それとも、言語に関する最初のトレーニングで十分ですか？それが何であれ、大きな違いを生むのでしょうか、それとも私の最終モデルの小さなものでしょうか？
When you say to "pre-train the BERT model on a similar task first, before fine tuning it with my Amazon data", what do you mean? Should I find another review dataset? Or is the initial pre-training on language sufficient? Will whatever it is make a significant difference, or just a small one to my end model?