私は、ほとんどの現代社会によると、そのような原則の正確な定式化については知りません。それにもかかわらず、同様の質問に対する最も有名な答えの1つは、Dan Isisek Azimovでした。これらは、有名なロボット工学の3つの法則です。

1）ロボットは、人を有害にすることを許可するために、人を傷つけることはできません。
2）ロボットは、これらの命令が最初の法律に反している場合を除き、人が与えるすべての命令に従わなければなりません。
3）ロボットは、これが第1または第2の法律と矛盾しない範囲で、その安全性を処理する必要があります。

この場合、「ロボット」の概念を「人工知能」に置き換えることができます。
Eisek Azimovは後にゼロの法律を追加しました：

0）ロボットは、人類が有害になることを可能にするために、人類やその不作為を害することはできません。
О точной формулировке подобных принципов, с которыми согласно большинство современного общества, мне не известно. Тем не менее, один из самых известных ответов на подобный вопрос был дан Айзеком Азимовым. Это знаменитые 3 закона робототехники. 

1) Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2) Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3) Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

В данном случае, можно заменить понятие "робот" на "исскуственный интелект". 
Позднее Айзек Азимов добавил нулевой закон:

0) Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред.