<https://arvo.net/ai/ai-news-special-report/5713/#analysisnewsarticle>
<http://schema.org/articleBody>
"AI（人工知能）の存在が社会に重大な懸念を引き起こしている AIの存在が人類にとっての存在的脅威になる可能性について議論が行われている 最新の研究により、AIは十分な知性を持たず、制御可能であることが示唆された  AIシステムの発展に伴い、その影響について大きな懸念が広がっています。 とくにAI技術が高度化することで、人類にとっての「存在的脅威」をもたらす可能性があるという懸念が浮上しています。 AIの安全性に関する専門機関であるCenter for AI Safety（CAIS）は、この問題をパンデミックや核紛争と同等の社会的リスクとして、世界的に優先して対処する必要があると主張しています。  一方、バース大学とダルムシュタット工科大学の研究者が行った最新の研究によれば、AIは人類に対して存在的脅威をもたらすことはないと示唆されています。 この研究は、自然言語処理を専門とする国際会議の62nd Annual Meeting of the Association for Computational Linguistics（ACL 2024）で発表されました。  研究によると、ChatGPTや他の大規模言語モデル（LLMs）は、指示に従って動作する能力を持ちながらも、新しいスキルを自律的に習得することはできず、そのため予測可能で制御可能な存在にとどまるとされています。  研究チームは、「LLMsは高度な推論能力や自律的な意思決定能力を持たないため、存在的脅威をもたらすことはない」と結論付けました。 しかし、研究者たちはまた、AIが全くの脅威をもたらさないわけではないとも警告しています。  調査はLLMsの「出現能力」に焦点を当て、いくつかの新しいタスクに対してテストを行いました。 その結果、LLMsの能力は基本的に指示に従うものであり、複雑な推論能力は備えていないことが明らかになりました。  これにより、AIの存在的脅威についての懸念が一部和らげられたとしていますが、他のリスクについてはさらなる研究が必要です。えっと、AIが存在的脅威をもたらさないってどういうこと？  じゃあ、なんでCAISはパンデミックや核紛争と同じくらいリスクがあるって言ってんの？AIが人類に致命的な危険を及ぼす可能性は低いとされるからです。  ただし、誤用やデータの偏りなどから生じるリスクが依然としてあるため、CAISは警戒を促していますね。君たち、話を聞いて心配な点も多いですよね。  まず、AIが存在的脅威をもたらすかどうかに関して、最新の研究では「AIは高度な推論や自律的な意思決定能力を持たないため、制御可能であり脅威にはなりにくい」と示唆されています。  ですが、CAISが警鐘を鳴らしているのは、AIの誤用やデータの偏り、そして特定の状況下での不適切な運用から生じる他のリスクです。パンデミックや核紛争と同等のリスクと言うのは、これらの誤用や不適切な運用が社会に重大な影響を与え得るという意味です。  要するに、存在的脅威そのものよりも、AI技術が誤って使用されたり、悪用された場合のリスクに対する警戒心が重要なんです。  最終的に、どちらの視点も理解しておくことが肝心です。 制御可能であっても、適切な監視と管理が必要なのです。  これが専門家たちの言っていることの要点です。"
<https://arvo.net/ai/ai-news-special-report/5713/>