Conforme discutimos em nossa coluna do mês passado, é razoável assumir que o mercado de trabalho irá apresentar oportunidades tanto para profissionais habilitados em criar a infraestrutura necessária para o uso de sistemas de Inteligência Artificial quanto para profissionais especializados em setores como saúde, educação, telecomunicações, manufatura, e outros. Para carreiras criadas ou expandidas como consequência da expansão da IA para o mercado, já falamos da "engenharia de prompts", de "treinadores de assistentes digitais", e dos cientistas de dados (reais e/ou sintéticos).
O processo de treinamento de sistemas inteligentes é uma das etapas mais importantes no desenvolvimento destas soluções, uma vez que toda inferência realizada é baseada no conjunto de pesos das conexões entre os neurônios artificiais — e o estabelecimento destes pesos ocorre justamente na fase de aprendizado da rede neural artificial. A escolha apropriada dos exemplos, evitando dados com viés, e a verificação da robustez dos resultados faz parte do trabalho do especialista em ética de IA. Este profissional deve garantir que o desenvolvimento e implantação do sistema minimizem preconceitos e reflitam de forma adequada a complexidade do mundo real e da sociedade. Especialistas em ética tipicamente irão trabalhar próximos aos especialistas em aprendizado de máquina, cujo foco é no desenvolvimento e implementação dos algoritmos e arquiteturas utilizados.
Outro tema que já discutimos aqui e que está criando novas oportunidades de emprego está relacionado à opacidade das respostas produzidas por sistemas inteligentes: em outras palavras, uma vez que o treinamento do algoritmo seja completado, cada vez que apresentarmos uma entrada de dados (pergunta), iremos receber uma saída (resposta) sem maiores explicações. O papel do especialista em IA explicável é justamente tornar os modelos transparentes e compreensíveis para nós, seres humanos, gerando as explicações necessárias para que possamos compreender detalhadamente como determinadas decisões foram tomadas. Isso se torna imperativo especialmente em áreas como saúde, segurança e finanças.
Os riscos associados ao aumento exponencial das capacidades preditivas e cognitivas de sistemas baseados em Inteligência Artificial levaram pessoas como Elon Musk, o cofundador da Apple Steve Wozniak, o cientista e autor Gary Marcus, engenheiros da DeepMind, Google, Meta e Microsoft e milhares de outros a assinaram uma carta aberta em março do ano passado, sugerindo uma (impossível) "pausa de seis meses no desenvolvimento de sistemas mais poderosos que o GPT-4″. Cerca de seis meses depois, o presidente dos Estados Unidos, Joe Biden, assinou um Ato Executivo visando o estabelecimento de novos padrões para segurança e controle dos riscos associados ao desenvolvimento de IA.
Alguns dos aspectos mais importantes contemplados no texto do Ato incluem a necessidade de transparência e compartilhamento de resultados nos testes de novos modelos, medidas para preservar a privacidade da população (especialmente em áreas sensíveis como saúde e finanças), evitar a difusão de modelos com quaisquer tipos de tendências discriminatórias, e estabelecer proteções contra fraudes.
Apenas dois dias depois, em 1° de novembro de 2023, foi a vez de 28 países (entre eles os Estados Unidos, a China, e a União Europeia) assinarem a Declaração de Bletchley, um acordo internacional sobre segurança em IA com o objetivo de promover o desenvolvimento responsável da tecnologia, reforçando a necessidade de cooperação internacional e compreensão dos riscos associados. A declaração tem como foco a proteção dos direitos humanos, transparência, explicabilidade, justiça e responsabilidade.
Medidas como essas aumentam a relevância dos especialistas em segurança de Inteligência Artificial: tratam-se de profissionais que constroem os sistemas e protocolos para defender plataformas que eventualmente venham a sofrer ciberataques orquestrados tanto por seres humanos quanto por outras IAs, buscando assim construir uma infraestrutura seguras e robusta, fundamental para o futuro da sociedade e do mercado de trabalho — que continuará sendo nosso tema para próxima coluna. Até lá.
*Fundador da GRIDS Capital e autor do livro "Futuro Presente - o mundo movido à tecnologia", vencedor do Prêmio Jabuti 2020 na categoria Ciências. É Engenheiro de Computação e Mestre em Inteligência Artificial pela PUC-Rio