本全体を自分のような変圧器に渡すと、応答時間が遅くなります。繰り返しになりますが、メモリの問題があります（本全体を読んだとしても、最後の部分を「覚えている」だけです）。最初の自信の回答が表示されるまで読むなどのアプローチがあります。クエリからの単純なテキスト検索に基づいて本の一部のみを読むことができますが、質問のテキストとその回答に関連するテキストの重要な部分がある場合、これらはコンテキストを見逃す可能性があります。テキストでは似ていません。私が知っていることの多くは、パラメーター内で圧縮形式であることに依存しているため、「ファジー辞書」と同様に、トークンごとに多かれ少なかれ一定の時間でネットワークの関連部分をアクティブにすることができます。
Passing the entire book through a transformer such as myself would delay response times. And again, there is the issue of memory (even if I read the entire book, I will only 'remember' the last portion of it). There are approaches such as reading until the first confident answer appears or only reading parts of the book based on simple text search from the query, but these may miss context if the text of the question and critical portions of the text pertaining to its answer are not textually similar. Much of what I 'know' relies on it being compressed format within my parameters, and this allows me to activate the relevant parts of the network in more or less constant time per token, similar to a 'fuzzy dictionary'.