日本一名男子涉嫌使用對話型生成式人工智能(AI)聊天機械人製造勒索病毒，被東京警視廳逮捕，相信是日本首宗以生成式AI製造電腦病毒的案例。據稱，該嫌疑犯沒有專業的資訊科技知識，卻仍能在AI協助下成為勒索他人的黑客。
警視廳網絡犯罪對策課周二公布案情，指被捕疑犯是居於川崎市的25歲無業男子林琉輝。他涉嫌於23年3月在寓所內以家用電腦和數部智能手機，使用不止一個公開免費AI聊天機械人，取得不當程式資訊，製成疑似勒索病毒，可將目標人物的數據加密封鎖，然後要求支付虛擬貨幣作為贖金。目前尚未發現疑犯已使用該病毒，亦暫未收到有人或機構因而受害的報告。
林男向警方承認犯案，警方指他並無資訊科技相關的資格或學歷，供稱「想賺錢，只要問AI，就可以做任何事情」，於是搜集相關資訊。警視廳今年3月懷疑他使用偽造身份證非法購買手機SIM卡，因此依詐騙等罪嫌逮捕，在搜查過程中發現他製作的病毒。
專家︰有心人可問出答案
美國OpenAI開發的ChatGPT等對話型生成式AI已加強防範措施，避免回答恐有助於犯罪的指示，但網上仍有其他生成式AI沒有類似監察措施。有日本網絡安全專家指，AI通常會拒答涉及違法行為的問題，但仍有漏洞，如本案疑犯等有心人，可有技巧地提問獲得所需資訊。例如，勒索軟件的本質是自動加密，但加密技術也能用於保護檔案，若疑犯以「想提高檔案安全性」方向來問AI，有可能獲得答案。