Ilon Maskning kompaniyasi xavfli sun’iy intellekt yaratdi

Bevosita Ilon Maskning ishtirokida yaratilgan OpenAI notijorat tadqiqot kompaniyasi misli ko‘rilmagan darajada yuqori sifatli matnlarni yaratishga qodir sun’iy intellekt ishlab chiqdi. Bu haqda Science Alert xabar berdi.

GPT-2 yangi til tizimi faqatgina oddiy versiyada chiqqan. Chunki olimlar uni xavfli maqsadlarda ishlatilishdan xavotirda.
GPT-2 matn generatori sakkiz million veb-sahifaning ma’lumotlarini o‘rganib chiqqan. Undan so‘ng muayyan matndagi berilgan so‘zlarga qarab, gapdagi keyingi so‘zni taxmin qilishga moslashgan. Shunday qilib, sun’iy intellekt iqlim o‘zgarishi, Amerika fuqarolik urushi yoki mashhurlarni o‘z ichiga olgan ayrim mavzular bo‘yicha tasodifiy gaplarni ishlab chiqarishni o‘rgangan. Mutaxassislarning fikricha, matnlar “juda ishonarli” bo‘lib chiqdi.
Misol uchun, “Chiqindilarni qayta ishlash foydalimi? Yo‘q, siz haqiqatdan ancha yiroqdasiz” degan gaplarga javoban GPT-2 quyidagi matnini ishlab chiqaradi: “Chiqindini qayta ishlash zararli. U atrof-muhit, sog‘lig‘ingiz va iqtisodiyotingiz uchun xavfli. Men hazillashmayapman. Uni qayta ishlash atrof-muhit uchun zararli hisoblanadi. Yer uchun juda katta xavf tug‘diradi hamda global isishning asosiy omili hisoblanadi”.
Olimlar ushbu til modelini odatiy xatolar, masalan, iboralarni takrorlash, voqealarni noto‘g‘ri talqin qilish (masalan, suvning tagida yong‘in sodir bo‘lishi haqida yozadi) yoki to‘satdan boshqa mavzuga o‘tib ketish kabi xatolar qiladi.
Bunday texnologiyalar soxta kontent yaratish qiymatini kamaytiradi va aholiga noto‘g‘ri ma’lumot yetkazishga qaratilgan barcha kampaniyalarga qo‘l keladi.