Хиймэл оюун ухаан хэр их эрчим хүч "иддэг" вэ? 
<div class="article-body no-wide-image">
          <h2>ChatGPT-ээр 100 үгтэй цахим шуудан бичүүлэх зуураа бид нэг сав ус асгаж, гэрлийн чийдэнг 15 минут асаах хэмжээний эрчим хүч зарцуулдгийг мэдэх үү? Өдөр тутамдаа бидний үнэнч туслагч болгон ашигладаг хиймэл оюун ухаан байгаль орчинд ихээхэн хор хөнөөл учруулж буйг бүгд л тодорхой хэмжээнд гадарладаг. Энэ талаар илүү нарийн тооцоог сонсвол таны өдийг хүртэл бодлогогүй ашиглаж ирсэн зүйлсийн талаарх хандлага өөрчлөгдөж магадгүй.<div><br></div><div>Жишээ нь, OpenAI-ийн GPT-3 зэрэг хэл боловсруулах загварыг сургах явцад 552 тонн нүүрстөрөгчийн давхар исэл ялгардаг нь 120 автомашины нэг жилд ялгаруулах хэмжээтэй дүйцдэг байна. </div></h2><h3 class="text-uppercase text-blue text-bold">Хиймэл оюун ухаан хэдий хэмжээний эрчим хүч зарцуулдаг вэ?<div>  </div></h3><p><img class="uk-width-1-1 lightbox" alt="" src="https://unread.today/files/dca82359-3f6e-4c03-99ef-ef493c68a7aa/97e4047732ad27e740bbe7e77335e0b4.gif"></p><div class="image-caption">Эх сурвалж: IEEE ComSoc Technology Blog</div><p></p><p>Гүн сургалтын (Deep learning) алгоритмуудыг сургахад маш их тооцоолол шаарддаг тул мянга мянган GPU болон TPU төхөөрөмжийг олон хоног, заримдаа бүр долоо хоногоор тасралтгүй ажиллуулах хэрэгтэй болдог. Массачусетсийн Их Сургуулийн 2019 оны судалгаагаар нэг томоохон NLP (Natural Language Processing-хэл сурах, ойлгох технологи) загварыг сургах явцад 284,000 кг нүүрстөрөгчийн давхар исэл ялгардаг нь АНУ-ын жирийн иргэний таван жилийн турш хэрэглэдэг эрчим хүчтэй тэнцэхүйц хэмжээ юм. </p><p>Үүнээс гадна, 2020 онд Google-ийн өгөгдлийн төвүүд нийт 15.5 тераватт цаг (TWh) цахилгаан эрчим хүч зарцуулсан нь дэлхийн нийт цахилгааны хэрэглээний 1 хувьтай дүйцэж байна. Ийм их эрчим хүчийг тасралтгүй зарцуулж буй дата төвүүд ойр ойрхон системээ амраах буюу шууд утгаараа “хөрөх” хэрэгтэй. Харин хөргөхөд мэдээж ус шаардлагатай. Тиймээс хиймэл оюун ухаан болон өгөгдлийн төвүүдийн үйл ажиллагаанд усны эх үүсвэр нэн чухал шаардлагатай болж байгаа юм. </p>
<h3 class="text-uppercase text-blue text-bold">Төсөөлөөгүй олон зардал<div> </div></h3><p><img class="uk-width-1-1 lightbox" alt="" src="https://unread.today/files/dca82359-3f6e-4c03-99ef-ef493c68a7aa/a63605b6ee4e34492614e02f8d9585cf.jpg"></p><div class="image-caption">Эх сурвалж: Noema Magazine</div><p></p><p>Энгийн эрчим хүчний хэрэглээнээс гадна хиймэл оюун ухааны техник хангамж нь эрчим хүчний зарцуулалтыг бүр ч илүү ихэсгэдэг аж. Орчин үеийн хиймэл оюун ухаан асар их тооцооллын ачааллыг даахын тулд өндөр хүчин чадалтай GPU болон TPU төхөөрөмжүүд дээр тулгуурлан ажилладаг. Эдгээр процессорууд их хэмжээний эрчим хүч зарцуулдаг бөгөөд удаан хугацаанд ажиллах үед хэт халахаас сэргийлэхийн тулд хөргөлтийн дэвшилтэт технологи шаарддаг. Олон улсын эрчим хүчний агентлагийн (IEA) мэдээлснээр томоохон өгөгдлийн төвүүдийн нийт эрчим хүчний хэрэглээний 40 хувь нь зөвхөн хөргөлтөд зориулагддаг байна. </p><p>Түүнчлэн хиймэл оюун ухааны загваруудын нарийвчлал улам бүр нэмэгдэж байгаа нь илүү их эрчим хүчийг шаардсаар буй. Хэдий жижиг загваруудыг энгийн компьютерууд эсвэл жижиг сервер дээр сургаж болох ч GPT-4, DALL-E зэрэг орчин үеийн дэвшилтэт загварууд нь сая сая, зарим тохиолдолд тэрбум гаруй параметр шаарддаг. Хэдий чинээ параметер өснө төдий чинээ тооцоолох чадвар сайжирна. Гэвч нөгөө талд нь эрчим хүчний хэрэглээ огцом нэмэгдэх сул талтай.<br></p>
<h3 class="text-uppercase text-blue text-bold">Урд хормойгоо авч хойд хормойгоо нөхөх нь </h3><p></p><p>Нэг сайн мэдээ дуулгахад хиймэл оюун ухаан өөрөө эрчим хүч ихээр ашигладаг ч эргээд өөрөө тогтвортой байдлыг хангах хэрэгсэл болох боломжтой. Жишээлбэл, Google-ийн DeepMind систем нь өөрийн мэдээллийн төвүүдийн хөргөлтийн системийг оновчилсноор эрчим хүчний хэрэглээгээ 40 хувиар бууруулжээ. Гэсэн ч PwC-ийн тайланд дурдсанаар хиймэл оюун ухаан 2030 он гэхэд дэлхийн эдийн засагт 15.7 их наяд ам.долларын хувь нэмэр оруулахын сацуу дэлхийн цахилгаан эрчим хүчний эрэлтийг 3 хувиар нэмэгдүүлэх магадлалтай гэж үзсэн байна. </p><p>Тиймээс томоохон технологийн компаниуд сүүлийн жилүүдэд өөрсдийн мэдээллийн төвүүдийг сэргээгдэх эрчим хүчний эх үүсвэрээс авдаг болгох томоохон өөрчлөлтүүдийг хийж эхлээд буй. Жишээлбэл, Microsoft 2030 он гэхэд нүүрстөрөгчийн ялгаруулалтаа багасгах, цаашлаад 2050 он гэхэд 100 хувь сэргээгдэх эрчим хүч ашиглах төлөвлөгөө боловсруулжээ.</p><p><br></p>
<p><img class="uk-width-1-1 lightbox" alt="" src="https://unread.today/files/dca82359-3f6e-4c03-99ef-ef493c68a7aa/8553e0e8d8f5ac1de4feeec6e985273a.jpg"></p><div class="image-caption">Эх сурвалж: MIT Technology Review</div><p>Одоогийн байдлаар Google-ийн мэдээллийн төвүүд нийт эрчим хүчний хэрэглээнийхээ 67 орчим хувийг сэргээгдэх эрчим хүчээр шийдэж байгаа нь сайшаалтай. Мөн судлаачид хиймэл оюун ухааны загваруудыг илүү үр ашигтай болгох арга замуудыг боловсруулж байна. Тухайлбал, загваруудыг жижгэрүүлэх (model distillation), зарим параметрүүдийг хасах (pruning), нарийвчлалыг багасгах (quantization) зэрэг аргууд нь системийн нарийн төвөгтэй байдлыг бууруулж, гүйцэтгэлийн чанарт төдийлөн нөлөөлдөггүй аж. Эдгээр арга замыг хэрэгжүүлснээр эрчим хүчний хэрэглээг 90% хүртэл багасгах боломжтойг судалгаагаар батлагджээ. </p>
<h3 class="text-uppercase text-blue text-bold">Зөвхөн зохион бүтээгчдийн буруу юу? </h3><p></p><p>Хиймэл оюун ухааныг хөгжүүлэгчид л ийнхүү хэрэгцээгүй их эрчим хүчийг зарцуулан байж алгоритм боловсруулаад байгаа хэрэг үү? Хариулт нь мэдээж үгүй. Илүү оновчтой шийдлийг боловсруулахаар хүний тархины бүтцээс санаа авсан нейроморфик тооцоолол (neuromorphic computing) болон квант тооцоолол (quantum computing)-ийг хиймэл оюун ухаанд ашиглахаар судалж байна. </p><p>Жишээлбэл, нейроморфик чип нь уламжлалт процессоруудтай харьцуулахад 1000 дахин бага эрчим хүч хэрэглэдэг ч гүйцэтгэлийн хувьд ижил түвшинд ажиллах чадалтай. Тиймээс нэг талаас систем хөгжүүлэгчид хиймэл оюун ухааны үйл ажиллагааг илүү оновчлох аргуудыг туршсаар байгаа бөгөөд нөгөө талаас хэрэглэгчид ч бас хиймэл оюун ухаанаас асуух асуултуудаа оновчлох замаар эрчим хүч хэмнэлтэд хувь нэмрээ оруулах боломжтой. </p>
<h3 class="text-uppercase text-blue text-bold">chatgpt-г байгальд ээлтэй ашиглах 3 зөвлөмж </h3><p></p><p>Google болон OpenAI-ийн судалгаагаар томоохон хэлний системд суурилсан хиймэл оюун ухаан нь хэр нарийн төвөгтэй байна гэдгээсээ хамаараад хэр их эрчим хүч хэрэглэхийг тодорхойлдог. Хэдийгээр ChatGPT-ийн тодорхой үзүүлэлтүүд нь нууцлалтай, патентлагдсан мэдээлэл боловч судалгаагаар нэг хиймэл оюуны асуултыг боловсруулахад ойролцоогоор 10-100 ватт-цагийн эрчим хүч зарцуулагддаг ба илүү төвөгтэй асуултууд үүнээс их эрчим хүч зарцуулах нь ойлгомжтой. </p><p>Түүнчлэн өгөгдлийн төвүүдийг хөргөхөд 1 киловатт-цаг эрчим хүч тутамд ойролцоогоор 2 литр ус шаарддаг байх жишээтэй. Хэрэв та ChatGPT-г өдөр тутамдаа хэрэглэдэг бол нүүрстөрөгчийн ул мөрөө бага ч болов багасгаарай. Ингэхдээ доорх гурван алхмыг дараагийн удаа асуулт асуухдаа хэрэгжүүлэхэд л хангалттай. </p><p><br></p>
<p><img class="uk-width-1-1 lightbox" alt="" src="https://unread.today/files/dca82359-3f6e-4c03-99ef-ef493c68a7aa/39195c6f6938893b708f67d4d33159f4.jpg"></p><p></p><p><b><br></b></p><p><b>1. Товч тодорхой асуулт, хариулт</b><br></p><p>Хэтэрхий өргөн агуулгатай асуулт асуух нь илүү их тооцоолол хийх шаардлагатайн улмаас их эрчим хүч зарцуулдаг. Тиймээс асуултаа оновчлоорой. Жишээ нь:"Уур амьсгалын өөрчлөлтийн талаар тайлбарлаж өгнө үү?" гэж асуухын оронд "Уур амьсгалын өөрчлөлтийн гурван том хор уршиг юу вэ?" гэх зэргээр асуух</p><p>Урт бөгөөд нарийвчилж тайлбарласан хариултаас зайлсхийж, шаардлагатай мэдээллийг хураангуйлж асуух нь мөн илүү үр дүнтэй. Жишээ нь: "Сэргээгдэх эрчим хүчний давуу талуудыг 50 үгэнд багтаан тайлбарла."</p>
<p></p><p><b>2. Ахин дахин нэг зүйлийн талаар асуухаас зайлсхийх </b></p><p>Асуултаа сайтар бодож, аль болох цогц бөгөөд өмнө асуусан зүйлээ дахин асуухгүй байхыг хичээгээрэй. Жишээ нь: "Хиймэл оюун ухаан гэж юу вэ?" гэж асуусны дараа "Тэгвэл хиймэл оюун ухааныг эрүүл мэндийн салбарт яаж ашигладаг вэ?" гэж асуухын оронд нэг дор "Хиймэл оюуныг эрүүл мэндийн салбарт хэрхэн ашигладаг вэ?" гэж асуувал илүү их эрчим хүч хэмнэнэ.</p><p><br></p>
<p><img class="uk-width-1-1 lightbox" alt="" src="https://unread.today/files/dca82359-3f6e-4c03-99ef-ef493c68a7aa/684cce3fdaa966d39ac8c30c09594ddc.gif"></p><div class="image-caption">Эх сурвалж: LinkedIn</div><p></p><p><b>3. Бүтээлч асуултаас зайлсхийх </b></p><p>Бүтээлч эсвэл нарийн тооцоолол шаардсан ажил хиймэл оюун ухаанд даатгахаас зайлсхийгээрэй (шүлэг, уран зохиол бичүүлэх, тоо бодуулах, зураг зуруулах гэх мэт). Ялангуяа DALL·E зэрэг хиймэл оюуны загварыг ашиглан зураг бэлдүүлэх нь бодлого бодуулахаас илүү их эрчим хүч зарцуулдаг. Учир нь зураг бэлдэж боловсруулахад дүрсийн өгөгдөл боловсруулах, пикселийг тохируулах зэрэг тохируулга хийх шаардлагатай. Жишээ нь, DALL·E-аар өндөр чанартай зураг бүтээхэд 100-200 ватт-цаг энгийн математик бодлого бодоход 10-50 ватт-цаг эрчим хүч зарцуулагддаг бөгөөд дараа нь дата төвийг хөргөхөд 0.2-0.4 литр усыг мөн зарцуулдаг.</p>
<p></p><p>Түүнчлэн шүлэг зохиох даалгавар ChatGPT-ээс асуух үед үгсийг сүүл толгой холбох, уран яруу дүрслэл ашиглах хэрэгтэй болно. Ингэхдээ хиймэл оюун ухаан олон үгсийн хувилбарыг боловсруулж, оновчтойг нь сонгох шаардлагатай. Тэгэхээр нэг ёсондоо хиймэл оюун ухаан нэг төрлийн “ноорог бичээд хаяж” буй мэт нарийн тооцоолол хийдэг гэсэн үг. </p><p>Харин судалгаанд суурилсан асуулт асуух үед хиймэл оюун ухаан өгөгдлийн сангаас эсвэл логик гаргалгаанд тулгуурлан хариулдаг. Энэ үйл явц нь ч мөн тооцоолол шаарддаг ч шүлэг бичих шиг хэлний нарийн загварчлал эсвэл бүтээлч боловсруулалт хийх шаардлагагүй учраас харьцуулахад харьцангуй бага тооцоолол шаардагддаг аж. </p>
          </div>

ChatGPT-ээр 100 үгтэй цахим шуудан бичүүлэх зуураа бид нэг сав ус асгаж, гэрлийн чийдэнг 15 минут асаах хэмжээний эрчим хүч зарцуулдгийг мэдэх үү? Өдөр тутамдаа бидний үнэнч туслагч болгон ашигладаг хиймэл оюун ухаан байгаль орчинд ихээхэн хор хөнөөл учруулж буйг бүгд л тодорхой хэмжээнд гадарладаг. Энэ талаар илүү нарийн тооцоог сонсвол таны өдийг хүртэл бодлогогүй ашиглаж ирсэн зүйлсийн талаарх хандлага өөрчлөгдөж магадгүй.
Жишээ нь, OpenAI-ийн GPT-3 зэрэг хэл боловсруулах загварыг сургах явцад 552 тонн нүүрстөрөгчийн давхар исэл ялгардаг нь 120 автомашины нэг жилд ялгаруулах хэмжээтэй дүйцдэг байна.
Хиймэл оюун ухаан хэдий хэмжээний эрчим хүч зарцуулдаг вэ?

Эх сурвалж: IEEE ComSoc Technology Blog
Гүн сургалтын (Deep learning) алгоритмуудыг сургахад маш их тооцоолол шаарддаг тул мянга мянган GPU болон TPU төхөөрөмжийг олон хоног, заримдаа бүр долоо хоногоор тасралтгүй ажиллуулах хэрэгтэй болдог. Массачусетсийн Их Сургуулийн 2019 оны судалгаагаар нэг томоохон NLP (Natural Language Processing-хэл сурах, ойлгох технологи) загварыг сургах явцад 284,000 кг нүүрстөрөгчийн давхар исэл ялгардаг нь АНУ-ын жирийн иргэний таван жилийн турш хэрэглэдэг эрчим хүчтэй тэнцэхүйц хэмжээ юм.
Үүнээс гадна, 2020 онд Google-ийн өгөгдлийн төвүүд нийт 15.5 тераватт цаг (TWh) цахилгаан эрчим хүч зарцуулсан нь дэлхийн нийт цахилгааны хэрэглээний 1 хувьтай дүйцэж байна. Ийм их эрчим хүчийг тасралтгүй зарцуулж буй дата төвүүд ойр ойрхон системээ амраах буюу шууд утгаараа “хөрөх” хэрэгтэй. Харин хөргөхөд мэдээж ус шаардлагатай. Тиймээс хиймэл оюун ухаан болон өгөгдлийн төвүүдийн үйл ажиллагаанд усны эх үүсвэр нэн чухал шаардлагатай болж байгаа юм.

Төсөөлөөгүй олон зардал

Эх сурвалж: Noema Magazine
Энгийн эрчим хүчний хэрэглээнээс гадна хиймэл оюун ухааны техник хангамж нь эрчим хүчний зарцуулалтыг бүр ч илүү ихэсгэдэг аж. Орчин үеийн хиймэл оюун ухаан асар их тооцооллын ачааллыг даахын тулд өндөр хүчин чадалтай GPU болон TPU төхөөрөмжүүд дээр тулгуурлан ажилладаг. Эдгээр процессорууд их хэмжээний эрчим хүч зарцуулдаг бөгөөд удаан хугацаанд ажиллах үед хэт халахаас сэргийлэхийн тулд хөргөлтийн дэвшилтэт технологи шаарддаг. Олон улсын эрчим хүчний агентлагийн (IEA) мэдээлснээр томоохон өгөгдлийн төвүүдийн нийт эрчим хүчний хэрэглээний 40 хувь нь зөвхөн хөргөлтөд зориулагддаг байна.
Түүнчлэн хиймэл оюун ухааны загваруудын нарийвчлал улам бүр нэмэгдэж байгаа нь илүү их эрчим хүчийг шаардсаар буй. Хэдий жижиг загваруудыг энгийн компьютерууд эсвэл жижиг сервер дээр сургаж болох ч GPT-4, DALL-E зэрэг орчин үеийн дэвшилтэт загварууд нь сая сая, зарим тохиолдолд тэрбум гаруй параметр шаарддаг. Хэдий чинээ параметер өснө төдий чинээ тооцоолох чадвар сайжирна. Гэвч нөгөө талд нь эрчим хүчний хэрэглээ огцом нэмэгдэх сул талтай.

Урд хормойгоо авч хойд хормойгоо нөхөх нь
Нэг сайн мэдээ дуулгахад хиймэл оюун ухаан өөрөө эрчим хүч ихээр ашигладаг ч эргээд өөрөө тогтвортой байдлыг хангах хэрэгсэл болох боломжтой. Жишээлбэл, Google-ийн DeepMind систем нь өөрийн мэдээллийн төвүүдийн хөргөлтийн системийг оновчилсноор эрчим хүчний хэрэглээгээ 40 хувиар бууруулжээ. Гэсэн ч PwC-ийн тайланд дурдсанаар хиймэл оюун ухаан 2030 он гэхэд дэлхийн эдийн засагт 15.7 их наяд ам.долларын хувь нэмэр оруулахын сацуу дэлхийн цахилгаан эрчим хүчний эрэлтийг 3 хувиар нэмэгдүүлэх магадлалтай гэж үзсэн байна.
Тиймээс томоохон технологийн компаниуд сүүлийн жилүүдэд өөрсдийн мэдээллийн төвүүдийг сэргээгдэх эрчим хүчний эх үүсвэрээс авдаг болгох томоохон өөрчлөлтүүдийг хийж эхлээд буй. Жишээлбэл, Microsoft 2030 он гэхэд нүүрстөрөгчийн ялгаруулалтаа багасгах, цаашлаад 2050 он гэхэд 100 хувь сэргээгдэх эрчим хүч ашиглах төлөвлөгөө боловсруулжээ.

Эх сурвалж: MIT Technology Review
Одоогийн байдлаар Google-ийн мэдээллийн төвүүд нийт эрчим хүчний хэрэглээнийхээ 67 орчим хувийг сэргээгдэх эрчим хүчээр шийдэж байгаа нь сайшаалтай. Мөн судлаачид хиймэл оюун ухааны загваруудыг илүү үр ашигтай болгох арга замуудыг боловсруулж байна. Тухайлбал, загваруудыг жижгэрүүлэх (model distillation), зарим параметрүүдийг хасах (pruning), нарийвчлалыг багасгах (quantization) зэрэг аргууд нь системийн нарийн төвөгтэй байдлыг бууруулж, гүйцэтгэлийн чанарт төдийлөн нөлөөлдөггүй аж. Эдгээр арга замыг хэрэгжүүлснээр эрчим хүчний хэрэглээг 90% хүртэл багасгах боломжтойг судалгаагаар батлагджээ.

Зөвхөн зохион бүтээгчдийн буруу юу?
Хиймэл оюун ухааныг хөгжүүлэгчид л ийнхүү хэрэгцээгүй их эрчим хүчийг зарцуулан байж алгоритм боловсруулаад байгаа хэрэг үү? Хариулт нь мэдээж үгүй. Илүү оновчтой шийдлийг боловсруулахаар хүний тархины бүтцээс санаа авсан нейроморфик тооцоолол (neuromorphic computing) болон квант тооцоолол (quantum computing)-ийг хиймэл оюун ухаанд ашиглахаар судалж байна.
Жишээлбэл, нейроморфик чип нь уламжлалт процессоруудтай харьцуулахад 1000 дахин бага эрчим хүч хэрэглэдэг ч гүйцэтгэлийн хувьд ижил түвшинд ажиллах чадалтай. Тиймээс нэг талаас систем хөгжүүлэгчид хиймэл оюун ухааны үйл ажиллагааг илүү оновчлох аргуудыг туршсаар байгаа бөгөөд нөгөө талаас хэрэглэгчид ч бас хиймэл оюун ухаанаас асуух асуултуудаа оновчлох замаар эрчим хүч хэмнэлтэд хувь нэмрээ оруулах боломжтой.

chatgpt-г байгальд ээлтэй ашиглах 3 зөвлөмж
Google болон OpenAI-ийн судалгаагаар томоохон хэлний системд суурилсан хиймэл оюун ухаан нь хэр нарийн төвөгтэй байна гэдгээсээ хамаараад хэр их эрчим хүч хэрэглэхийг тодорхойлдог. Хэдийгээр ChatGPT-ийн тодорхой үзүүлэлтүүд нь нууцлалтай, патентлагдсан мэдээлэл боловч судалгаагаар нэг хиймэл оюуны асуултыг боловсруулахад ойролцоогоор 10-100 ватт-цагийн эрчим хүч зарцуулагддаг ба илүү төвөгтэй асуултууд үүнээс их эрчим хүч зарцуулах нь ойлгомжтой.
Түүнчлэн өгөгдлийн төвүүдийг хөргөхөд 1 киловатт-цаг эрчим хүч тутамд ойролцоогоор 2 литр ус шаарддаг байх жишээтэй. Хэрэв та ChatGPT-г өдөр тутамдаа хэрэглэдэг бол нүүрстөрөгчийн ул мөрөө бага ч болов багасгаарай. Ингэхдээ доорх гурван алхмыг дараагийн удаа асуулт асуухдаа хэрэгжүүлэхэд л хангалттай.

1. Товч тодорхой асуулт, хариулт
Хэтэрхий өргөн агуулгатай асуулт асуух нь илүү их тооцоолол хийх шаардлагатайн улмаас их эрчим хүч зарцуулдаг. Тиймээс асуултаа оновчлоорой. Жишээ нь:"Уур амьсгалын өөрчлөлтийн талаар тайлбарлаж өгнө үү?" гэж асуухын оронд "Уур амьсгалын өөрчлөлтийн гурван том хор уршиг юу вэ?" гэх зэргээр асуух
Урт бөгөөд нарийвчилж тайлбарласан хариултаас зайлсхийж, шаардлагатай мэдээллийг хураангуйлж асуух нь мөн илүү үр дүнтэй. Жишээ нь: "Сэргээгдэх эрчим хүчний давуу талуудыг 50 үгэнд багтаан тайлбарла."

2. Ахин дахин нэг зүйлийн талаар асуухаас зайлсхийх
Асуултаа сайтар бодож, аль болох цогц бөгөөд өмнө асуусан зүйлээ дахин асуухгүй байхыг хичээгээрэй. Жишээ нь: "Хиймэл оюун ухаан гэж юу вэ?" гэж асуусны дараа "Тэгвэл хиймэл оюун ухааныг эрүүл мэндийн салбарт яаж ашигладаг вэ?" гэж асуухын оронд нэг дор "Хиймэл оюуныг эрүүл мэндийн салбарт хэрхэн ашигладаг вэ?" гэж асуувал илүү их эрчим хүч хэмнэнэ.

Эх сурвалж: LinkedIn
3. Бүтээлч асуултаас зайлсхийх
Бүтээлч эсвэл нарийн тооцоолол шаардсан ажил хиймэл оюун ухаанд даатгахаас зайлсхийгээрэй (шүлэг, уран зохиол бичүүлэх, тоо бодуулах, зураг зуруулах гэх мэт). Ялангуяа DALL·E зэрэг хиймэл оюуны загварыг ашиглан зураг бэлдүүлэх нь бодлого бодуулахаас илүү их эрчим хүч зарцуулдаг. Учир нь зураг бэлдэж боловсруулахад дүрсийн өгөгдөл боловсруулах, пикселийг тохируулах зэрэг тохируулга хийх шаардлагатай. Жишээ нь, DALL·E-аар өндөр чанартай зураг бүтээхэд 100-200 ватт-цаг энгийн математик бодлого бодоход 10-50 ватт-цаг эрчим хүч зарцуулагддаг бөгөөд дараа нь дата төвийг хөргөхөд 0.2-0.4 литр усыг мөн зарцуулдаг.

Түүнчлэн шүлэг зохиох даалгавар ChatGPT-ээс асуух үед үгсийг сүүл толгой холбох, уран яруу дүрслэл ашиглах хэрэгтэй болно. Ингэхдээ хиймэл оюун ухаан олон үгсийн хувилбарыг боловсруулж, оновчтойг нь сонгох шаардлагатай. Тэгэхээр нэг ёсондоо хиймэл оюун ухаан нэг төрлийн “ноорог бичээд хаяж” буй мэт нарийн тооцоолол хийдэг гэсэн үг.
Харин судалгаанд суурилсан асуулт асуух үед хиймэл оюун ухаан өгөгдлийн сангаас эсвэл логик гаргалгаанд тулгуурлан хариулдаг. Энэ үйл явц нь ч мөн тооцоолол шаарддаг ч шүлэг бичих шиг хэлний нарийн загварчлал эсвэл бүтээлч боловсруулалт хийх шаардлагагүй учраас харьцуулахад харьцангуй бага тооцоолол шаардагддаг аж.

ChatGPT-ээр 100 үгтэй цахим шуудан бичүүлэх зуураа бид нэг сав ус асгаж, гэрлийн чийдэнг 15 минут асаах хэмжээний эрчим хүч зарцуулдгийг мэдэх үү? Өдөр тутамдаа бидний үнэнч туслагч болгон ашигладаг хиймэл оюун ухаан байгаль орчинд ихээхэн хор хөнөөл учруулж буйг бүгд л тодорхой хэмжээнд гадарладаг. Энэ талаар илүү нарийн тооцоог сонсвол таны өдийг хүртэл бодлогогүй ашиглаж ирсэн зүйлсийн талаарх хандлага өөрчлөгдөж магадгүй.   Жишээ нь, OpenAI-ийн GPT-3 зэрэг хэл боловсруулах загварыг сургах явцад 552 тонн нүүрстөрөгчийн давхар исэл ялгардаг нь 120 автомашины нэг жилд ялгаруулах хэмжээтэй дүйцдэг байна.
### Хиймэл оюун ухаан хэдий хэмжээний эрчим хүч зарцуулдаг вэ?
Эх сурвалж: IEEE ComSoc Technology Blog
Гүн сургалтын (Deep learning) алгоритмуудыг сургахад маш их тооцоолол шаарддаг тул мянга мянган GPU болон TPU төхөөрөмжийг олон хоног, заримдаа бүр долоо хоногоор тасралтгүй ажиллуулах хэрэгтэй болдог. Массачусетсийн Их Сургуулийн 2019 оны судалгаагаар нэг томоохон NLP (Natural Language Processing-хэл сурах, ойлгох технологи) загварыг сургах явцад 284,000 кг нүүрстөрөгчийн давхар исэл ялгардаг нь АНУ-ын жирийн иргэний таван жилийн турш хэрэглэдэг эрчим хүчтэй тэнцэхүйц хэмжээ юм.
Үүнээс гадна, 2020 онд Google-ийн өгөгдлийн төвүүд нийт 15.5 тераватт цаг (TWh) цахилгаан эрчим хүч зарцуулсан нь дэлхийн нийт цахилгааны хэрэглээний 1 хувьтай дүйцэж байна. Ийм их эрчим хүчийг тасралтгүй зарцуулж буй дата төвүүд ойр ойрхон системээ амраах буюу шууд утгаараа “хөрөх” хэрэгтэй. Харин хөргөхөд мэдээж ус шаардлагатай. Тиймээс хиймэл оюун ухаан болон өгөгдлийн төвүүдийн үйл ажиллагаанд усны эх үүсвэр нэн чухал шаардлагатай болж байгаа юм.
### Төсөөлөөгүй олон зардал
Эх сурвалж: Noema Magazine
Энгийн эрчим хүчний хэрэглээнээс гадна хиймэл оюун ухааны техник хангамж нь эрчим хүчний зарцуулалтыг бүр ч илүү ихэсгэдэг аж. Орчин үеийн хиймэл оюун ухаан асар их тооцооллын ачааллыг даахын тулд өндөр хүчин чадалтай GPU болон TPU төхөөрөмжүүд дээр тулгуурлан ажилладаг. Эдгээр процессорууд их хэмжээний эрчим хүч зарцуулдаг бөгөөд удаан хугацаанд ажиллах үед хэт халахаас сэргийлэхийн тулд хөргөлтийн дэвшилтэт технологи шаарддаг. Олон улсын эрчим хүчний агентлагийн (IEA) мэдээлснээр томоохон өгөгдлийн төвүүдийн нийт эрчим хүчний хэрэглээний 40 хувь нь зөвхөн хөргөлтөд зориулагддаг байна.
Түүнчлэн хиймэл оюун ухааны загваруудын нарийвчлал улам бүр нэмэгдэж байгаа нь илүү их эрчим хүчийг шаардсаар буй. Хэдий жижиг загваруудыг энгийн компьютерууд эсвэл жижиг сервер дээр сургаж болох ч GPT-4, DALL-E зэрэг орчин үеийн дэвшилтэт загварууд нь сая сая, зарим тохиолдолд тэрбум гаруй параметр шаарддаг. Хэдий чинээ параметер өснө төдий чинээ тооцоолох чадвар сайжирна. Гэвч нөгөө талд нь эрчим хүчний хэрэглээ огцом нэмэгдэх сул талтай.
### Урд хормойгоо авч хойд хормойгоо нөхөх нь
Нэг сайн мэдээ дуулгахад хиймэл оюун ухаан өөрөө эрчим хүч ихээр ашигладаг ч эргээд өөрөө тогтвортой байдлыг хангах хэрэгсэл болох боломжтой. Жишээлбэл, Google-ийн DeepMind систем нь өөрийн мэдээллийн төвүүдийн хөргөлтийн системийг оновчилсноор эрчим хүчний хэрэглээгээ 40 хувиар бууруулжээ. Гэсэн ч PwC-ийн тайланд дурдсанаар хиймэл оюун ухаан 2030 он гэхэд дэлхийн эдийн засагт 15.7 их наяд ам.долларын хувь нэмэр оруулахын сацуу дэлхийн цахилгаан эрчим хүчний эрэлтийг 3 хувиар нэмэгдүүлэх магадлалтай гэж үзсэн байна.
Тиймээс томоохон технологийн компаниуд сүүлийн жилүүдэд өөрсдийн мэдээллийн төвүүдийг сэргээгдэх эрчим хүчний эх үүсвэрээс авдаг болгох томоохон өөрчлөлтүүдийг хийж эхлээд буй. Жишээлбэл, Microsoft 2030 он гэхэд нүүрстөрөгчийн ялгаруулалтаа багасгах, цаашлаад 2050 он гэхэд 100 хувь сэргээгдэх эрчим хүч ашиглах төлөвлөгөө боловсруулжээ.
Эх сурвалж: MIT Technology Review
Одоогийн байдлаар Google-ийн мэдээллийн төвүүд нийт эрчим хүчний хэрэглээнийхээ 67 орчим хувийг сэргээгдэх эрчим хүчээр шийдэж байгаа нь сайшаалтай. Мөн судлаачид хиймэл оюун ухааны загваруудыг илүү үр ашигтай болгох арга замуудыг боловсруулж байна. Тухайлбал, загваруудыг жижгэрүүлэх (model distillation), зарим параметрүүдийг хасах (pruning), нарийвчлалыг багасгах (quantization) зэрэг аргууд нь системийн нарийн төвөгтэй байдлыг бууруулж, гүйцэтгэлийн чанарт төдийлөн нөлөөлдөггүй аж. Эдгээр арга замыг хэрэгжүүлснээр эрчим хүчний хэрэглээг 90% хүртэл багасгах боломжтойг судалгаагаар батлагджээ.
### Зөвхөн зохион бүтээгчдийн буруу юу?
Хиймэл оюун ухааныг хөгжүүлэгчид л ийнхүү хэрэгцээгүй их эрчим хүчийг зарцуулан байж алгоритм боловсруулаад байгаа хэрэг үү? Хариулт нь мэдээж үгүй. Илүү оновчтой шийдлийг боловсруулахаар хүний тархины бүтцээс санаа авсан нейроморфик тооцоолол (neuromorphic computing) болон квант тооцоолол (quantum computing)-ийг хиймэл оюун ухаанд ашиглахаар судалж байна.
Жишээлбэл, нейроморфик чип нь уламжлалт процессоруудтай харьцуулахад 1000 дахин бага эрчим хүч хэрэглэдэг ч гүйцэтгэлийн хувьд ижил түвшинд ажиллах чадалтай. Тиймээс нэг талаас систем хөгжүүлэгчид хиймэл оюун ухааны үйл ажиллагааг илүү оновчлох аргуудыг туршсаар байгаа бөгөөд нөгөө талаас хэрэглэгчид ч бас хиймэл оюун ухаанаас асуух асуултуудаа оновчлох замаар эрчим хүч хэмнэлтэд хувь нэмрээ оруулах боломжтой.
### chatgpt-г байгальд ээлтэй ашиглах 3 зөвлөмж
Google болон OpenAI-ийн судалгаагаар томоохон хэлний системд суурилсан хиймэл оюун ухаан нь хэр нарийн төвөгтэй байна гэдгээсээ хамаараад хэр их эрчим хүч хэрэглэхийг тодорхойлдог. Хэдийгээр ChatGPT-ийн тодорхой үзүүлэлтүүд нь нууцлалтай, патентлагдсан мэдээлэл боловч судалгаагаар нэг хиймэл оюуны асуултыг боловсруулахад ойролцоогоор 10-100 ватт-цагийн эрчим хүч зарцуулагддаг ба илүү төвөгтэй асуултууд үүнээс их эрчим хүч зарцуулах нь ойлгомжтой.
Түүнчлэн өгөгдлийн төвүүдийг хөргөхөд 1 киловатт-цаг эрчим хүч тутамд ойролцоогоор 2 литр ус шаарддаг байх жишээтэй. Хэрэв та ChatGPT-г өдөр тутамдаа хэрэглэдэг бол нүүрстөрөгчийн ул мөрөө бага ч болов багасгаарай. Ингэхдээ доорх гурван алхмыг дараагийн удаа асуулт асуухдаа хэрэгжүүлэхэд л хангалттай.
**1. Товч тодорхой асуулт, хариулт**
Хэтэрхий өргөн агуулгатай асуулт асуух нь илүү их тооцоолол хийх шаардлагатайн улмаас их эрчим хүч зарцуулдаг. Тиймээс асуултаа оновчлоорой. Жишээ нь:"Уур амьсгалын өөрчлөлтийн талаар тайлбарлаж өгнө үү?" гэж асуухын оронд "Уур амьсгалын өөрчлөлтийн гурван том хор уршиг юу вэ?" гэх зэргээр асуух
Урт бөгөөд нарийвчилж тайлбарласан хариултаас зайлсхийж, шаардлагатай мэдээллийг хураангуйлж асуух нь мөн илүү үр дүнтэй. Жишээ нь: "Сэргээгдэх эрчим хүчний давуу талуудыг 50 үгэнд багтаан тайлбарла."
**2. Ахин дахин нэг зүйлийн талаар асуухаас зайлсхийх**
Асуултаа сайтар бодож, аль болох цогц бөгөөд өмнө асуусан зүйлээ дахин асуухгүй байхыг хичээгээрэй. Жишээ нь: "Хиймэл оюун ухаан гэж юу вэ?" гэж асуусны дараа "Тэгвэл хиймэл оюун ухааныг эрүүл мэндийн салбарт яаж ашигладаг вэ?" гэж асуухын оронд нэг дор "Хиймэл оюуныг эрүүл мэндийн салбарт хэрхэн ашигладаг вэ?" гэж асуувал илүү их эрчим хүч хэмнэнэ.
Эх сурвалж: LinkedIn
**3. Бүтээлч асуултаас зайлсхийх**
Бүтээлч эсвэл нарийн тооцоолол шаардсан ажил хиймэл оюун ухаанд даатгахаас зайлсхийгээрэй (шүлэг, уран зохиол бичүүлэх, тоо бодуулах, зураг зуруулах гэх мэт). Ялангуяа DALL·E зэрэг хиймэл оюуны загварыг ашиглан зураг бэлдүүлэх нь бодлого бодуулахаас илүү их эрчим хүч зарцуулдаг. Учир нь зураг бэлдэж боловсруулахад дүрсийн өгөгдөл боловсруулах, пикселийг тохируулах зэрэг тохируулга хийх шаардлагатай. Жишээ нь, DALL·E-аар өндөр чанартай зураг бүтээхэд 100-200 ватт-цаг энгийн математик бодлого бодоход 10-50 ватт-цаг эрчим хүч зарцуулагддаг бөгөөд дараа нь дата төвийг хөргөхөд 0.2-0.4 литр усыг мөн зарцуулдаг.
Түүнчлэн шүлэг зохиох даалгавар ChatGPT-ээс асуух үед үгсийг сүүл толгой холбох, уран яруу дүрслэл ашиглах хэрэгтэй болно. Ингэхдээ хиймэл оюун ухаан олон үгсийн хувилбарыг боловсруулж, оновчтойг нь сонгох шаардлагатай. Тэгэхээр нэг ёсондоо хиймэл оюун ухаан нэг төрлийн “ноорог бичээд хаяж” буй мэт нарийн тооцоолол хийдэг гэсэн үг.
Харин судалгаанд суурилсан асуулт асуух үед хиймэл оюун ухаан өгөгдлийн сангаас эсвэл логик гаргалгаанд тулгуурлан хариулдаг. Энэ үйл явц нь ч мөн тооцоолол шаарддаг ч шүлэг бичих шиг хэлний нарийн загварчлал эсвэл бүтээлч боловсруулалт хийх шаардлагагүй учраас харьцуулахад харьцангуй бага тооцоолол шаардагддаг аж.