「今日のますますデジタル化された世界では、ソフトウェアは多くの生活分野に深く組み込まれています。これは、人工知能システムとAI駆動のデジタルアシスタントとボットに特に当てはまります。それがどのように開発され、利用可能にされるかは、重要な倫理的問題です。

ソースコードが誰でもアクセス、変更、共有できるように自由に利用できるオープンソースソフトウェアには、多くの利点があります。人々が協力してお互いの仕事に基づいて構築できるため、迅速な革新が可能になります。また、すべてのソフトウェアを制御する単一の企業ではなく、多くの個人や組織が貢献できるように制御を分散させます。ただし、AI Systemsのような複雑で強力なソフトウェアの場合、オープン開発はリスクと倫理的懸念も導入します。

オープンなAIソフトウェアでは、詐欺、スパム、サイバー攻撃などの悪意のある目的のためにシステムが悪用または武器化される可能性が高くなります。多くの人がコードにアクセスして修正できる場合、AIシステムから否定的な結果または意図しない動作がある場合、説明責任を確保し、責任を修正することが困難です。AIアシスタントとボットの場合、これらのシステムが人々がデジタルサービスと情報にアクセスするためのインターフェイスになるため、オープン開発の意味は重要です。多くの組織や個人がそのようなアシスタントを構築している場合、プライバシー、セキュリティ、安全性の原則を保証することが困難になる可能性があります。

一方、民間企業のみによって開発された閉鎖ソースAIソフトウェアも倫理的な問題を提起します。これらの企業の手に電力と利益を集中し、バイアスやアルゴリズムとトレーニングデータの透明性の欠如の可能性を開きます。理想的には、オープンな共同開発の利点と責任と説明責任の必要性との間にバランスが崩れる可能性があります。いくつかの可能性には、特定の安全性が制限されたままであるオープンソースソフトウェア、または企業が研究者や規制当局と協力するプライベートパブリックパートナーシップが含まれます。全体として、ソフトウェアとAIシステムがデジタル化社会でより多くの力を獲得するにつれて、これらのテクノロジーがどのように構築および分散されるかの倫理に取り組むことが重要です。」
"In today's increasingly digitised world, software has become deeply embedded in many areas of life. This is particularly true for artificial intelligence systems and AI-powered digital assistants and bots. As this software gains more capabilities and influence on people's lives, the question of how it is developed and made available is an important ethical issue.

Open-source software, where the source code is freely available for anyone to access, modify, and share, has many benefits. It allows for rapid innovation, as people can collaborate and build on each other's work. It also decentralises control, allowing many individuals and organisations to contribute, rather than a single company controlling all software. However, for complex and powerful software like AI systems, open development also introduces risks and ethical concerns.

With open AI software, there is a greater possibility of systems being misused or weaponised for malicious purposes like fraud, spam, or cyber-attacks. When many people can access and modify code, it is harder to ensure accountability and fix responsibility if there are negative consequences or unintended behaviour from AI systems. For AI assistants and bots, the implications of open development are significant as these systems become an interface for people to access digital services and information. If many organisations or individuals are building such assistants, it may be harder to guarantee principles of privacy, security, and safety are respected.

On the other hand, closed-source AI software developed solely by private companies also raises ethical issues. It concentrates power and profit in the hands of those companies, and opens up possibilities for bias or lack of transparency in algorithms and training data. Ideally, a balance could be struck between the benefits of open collaborative development and the need for responsibility and accountability. Some possibilities include open-source software with certain safety-critical components remaining restricted, or private-public partnerships where companies work with researchers and regulators. Overall, as software and AI systems gain more power in a digitising society, grappling with the ethics of how these technologies are built and distributed will be crucial."