Quem vai nos proteger da má Inteligência Artificial?

E mais: a DeepMind faz cálculos. 

Já não era sem tempo. Essa foi a resposta dos especialistas em política e ética da Inteligência Artificial (IA) à revelação do início de outubro de uma Declaração de Direitos da IA feita pelo “Office of Science and Technology Policy”, a assessoria da Casa Branca para assuntos relacionados. O documento representa a visão do atual presidente Biden de como o governo dos EUA, empresas de tecnologia e cidadãos devem trabalhar juntos para responsabilizar o setor de IA.  

É uma grande iniciativa, e há muito esperada. Até agora, os EUA têm sido uma das únicas nações ocidentais que não apresentam orientações claras sobre como proteger seus cidadãos contra os danos da IA. (Para recordação, esses danos incluem prisões injustas, suicídios e todo um grupo de alunos em idade escolar sendo avaliados injustamente por um algoritmo. E isso é só o início.)  

As empresas de tecnologia dizem que querem mitigar esses tipos de danos, mas responsabilizá-las é muito difícil.  

A Declaração de Direitos da IA descreve cinco proteções que os americanos devem ter na era da IA incluindo privacidade de dados, o direito de proteção contra sistemas não seguros e garantias de que os algoritmos não sejam discriminatórios e que sempre haverá uma alternativa humana. Leia mais sobre isso aqui.  

A boa notícia é que a Casa Branca apresentou uma linha de raciocínio madura sobre os diferentes tipos de danos causados pela IA, e isso deverá servir como um filtro em como o governo federal pensa de forma mais ampla sobre os riscos tecnológicos. A União Europeia está a fazer pressão ao criar regulamentações que tentam, ambiciosamente, mitigar todos os danos da IA. Isso é ótimo, mas incrivelmente difícil de fazer, e pode levar anos até que a Lei da IA europeia esteja pronta. Os EUA, por outro lado, “podem resolver um problema de cada vez”, e cada órgão pode aprender a lidar com os desafios de IA à medida que forem surgindo, diz Alex Engler, que pesquisa governança de IA na Brookings Institution, uma think tank em Washington, DC (EUA).  

Já o lado ruim da história, a Declaração de Direitos da IA não foca em algumas áreas de dano muito importantes, como o cumprimento das leis e vigilância do trabalhador. E, ao contrário da verdadeira Declaração dos Direitos dos EUA, a Declaração de Direitos da IA é mais uma recomendação entusiástica do que uma lei vinculante. “Sinceramente, os princípios não são suficientes”, diz Courtney Radsch, especialista em política de tecnologia dos EUA da ARTIGO 19, uma organização não-governamental de direitos humanos. “Na ausência de, por exemplo, uma lei nacional de privacidade que estabeleça alguns limites, [a declaração] é apenas parte do caminho”, acrescenta ela.  

Os EUA estão a andar numa corda bamba. Por um lado, o país não quer parecer fraco no cenário global quando se trata dessa questão. Os EUA desempenham talvez o papel mais importante na mitigação dos danos da IA, já que a maioria das mais ricas empresas de IA do mundo são americanas. Mas esse é o problema. Globalmente, os EUA precisam fazer pressão contrarregras que limitariam os seus gigantes da tecnologia enquanto internamente reluta em criar qualquer regulamentação que possa “impedir a inovação”.  

Os próximos dois anos serão críticos para a política global de IA. Se os democratas não ganharem um segundo mandato nas eleições presidenciais de 2024, é muito possível que esses esforços sejam abandonados. Novas pessoas com novas prioridades podem mudar drasticamente o progresso feito até agora, ou levar as coisas em uma direção completamente diferente. Nada é impossível.  

Uma aprendizagem ainda mais profunda 

• A IA para jogos da DeepMind bateu um recorde de 50 anos em ciência da computação  

Fizeram de novo: o laboratório de IA da DeepMind usou a IA para jogos de tabuleiro, a AlphaZero, para descobrir uma maneira mais rápida de resolver um problema matemático fundamental no campo da ciência da computação, batendo um recorde mantido há mais de 50 anos.  

Os investigadores treinaram uma nova versão da AlphaZero, chamada de AlphaTensor, num jogo onde o programa aprendeu a melhor sequência de jogadas para resolver o problema matemático. No final, venceu o jogo com o menor número de movimentos possível.  

Por que isso é importante: o problema, uma multiplicação de matrizes, é um tipo crucial de cálculo que está no centro de muitas utilizações diferentes, desde a exibição de imagens numa tela até a simulação de física complexa. Também é fundamental para o machine learning em si. Acelerar esse cálculo pode ter um grande impacto em milhares de tarefas diárias computacionais, reduzindo custos e economizando energia. Leia mais na reportagem de Will Heaven aqui.  

Bits e Bytes  

A Google lançou uma impressionante IA de texto para vídeo.  

Apenas uma semana após a divulgação da IA da Meta que converte texto em imagem, o Google elevou a aposta. Os vídeos que o seu sistema Imagen Video produz são de definição muito maior que os da Meta. Mas, assim como a Meta, o Google não está a disponibilizar o seu modelo para o público por causa de “preconceitos sociais e estereótipos que são difíceis de detectar e filtrar”. (Google)  

• A nova IA do Google pode ouvir um trecho de uma música e continuar tocando  

O método, chamado de AudioLM, gera sons naturalistas sem a necessidade de trabalho humano. (MIT Technology Review americana)  

• Mesmo depois do investimento de US$ 100 mil milhões, carros autónomos não saem do lugar  

E o que foi essa fala de Anthony Levandowski, uma das maiores estrelas da área: “Esqueça os lucros — qual é a receita combinada de todas as empresas [de Veículos Autónomos]? Um milhão de dólares? Talvez. Mas eu acho que está mais próximo de zero”. (Bloomberg Business Week)  

• Empresas de robótica prometeram não armar a sua tecnologia  

Seis das maiores empresas de robótica do mundo, incluindo a Boston Dynamics, prometeram não armar os seus robôs. (A menos, é claro, que seja uma necessidade para fins de defesa dos governos.)  

Ao mesmo tempo, a startup Anduril de IA defensiva diz que desenvolveu munições vagantes, também conhecidas como drones suicidas, e isso aparentemente é apenas o começo do seu novo programa de armas. Escrevi em julho sobre como os negócios estão a crescer para startups militares de IA. A invasão da Ucrânia levou os militares a modernizar os seus arsenais — e Silicon Valley quer tirar proveito disso. (MIT Technology Review)  

• Esta é a vida no Metaverso  

Uma história divertida sobre a vida no Metaverso e seus primeiros usuários. Este é o primeiro artigo sobre o Metaverso onde eu realmente pude ver o apelo do espaço virtual. (Mas não me fez querer entrar nele tão cedo.) (The New York Times)  

• Há uma nova IA que permite criar ambientes internos  

O modelo foi construído em cinco dias usando o modelo de texto para imagem de código aberto, o Stable Diffusion, para gerar ambientes internos elegantes. É ótimo ver pessoas usando o modelo para criar novos aplicativos. Mas, pelo lado negativo, consigo totalmente ver essa tecnologia sendo usada para fraudes no Airbnb e em imóveis no geral. (Interior AI)