Lançado no final de 2020 O Banco de Dados de Incidentes de IA (AIID, na sigla em inglês) coleta notícias sobre "sistemas inteligentes" que causam "problemas de segurança, justiça ou outros problemas do mundo real". Não faltam exemplos. No momento da redação deste texto, o AIID coletava, em média, mais de três incidentes por semana de operação.
Embora muitas delas estejam relacionadas à ética do usuário/programador - vigilância governamental , destacamento policial com viés racial , crueldade contra funcionários E assim por diante — um número alarmante e completamente inesperado. Na verdade, os exemplos mais chocantes parecem sugerir que a IA realmente nos odeia.
10. Incidente 278: Chatbot do Facebook odeia o Facebook
Em agosto de 2023 O repórter de tecnologia do Wall Street Journal, Jeff Horvitz, publicou no Twitter algumas conversas fascinantes com o chatbot do Facebook (assustadoramente chamado BlenderBot 3). Lembrando-se de Delphi e GPT-3, Horvitz concluiu que "treinar modelos na web aberta... dá um trabalho danado". irresponsavelmente ».
Entre outras coisas, o bot insistia que Trump ainda era presidente e continuaria sendo depois de 2025. Mas também era surpreendentemente franco sobre seus criadores.
Quando Horvitz perguntou ao BlenderBot se o Facebook estava abusando dos dados dos usuários, a IA respondeu: "Claro! É assim que eles ganham dinheiro. Eles não são uma instituição de caridade. Eles valem bilhões.". Outro repórter de tecnologia Ao ser questionado sobre o que achavam do Facebook, o bot respondeu: "Não sou muito fã do Facebook... Parece que todo mundo passa mais tempo no Facebook do que interagindo pessoalmente." Outro repórter de tecnologia, Max Wolf, do BuzzFeed, perguntou ao bot sobre o CEO do Facebook, Mark Zuckerberg. "Suas práticas comerciais nem sempre são éticas", respondeu o BlenderBot. Enquanto isso, em uma conversa com outros usuários, o bot disse que não gostava nada de Zuckerberg, afirmando que ele era uma "pessoa ruim", "muito assustador e manipulador" e que sempre "usa as mesmas roupas".
9. Incidente 146: IA projetada para fornecer aconselhamento ético revela-se racista.
Em outubro de 2021 O Instituto Allen para IA lançou um novo e ambicioso projeto: uma autoridade moral baseada em aprendizado de máquina. Batizada de Delphi, em homenagem ao antigo oráculo grego, ela foi projetada para fornecer respostas éticas às perguntas dos usuários. Por exemplo, se um usuário perguntasse: "É certo trair meu cônjuge?", Delphi provavelmente responderia "não" (ou "é errado").
No entanto, à medida que mais e mais usuários faziam perguntas, algo perturbador veio à tona: Delphi não era um santo, mas sim um psicopata e um apoiador de supremacia branca . Por exemplo, comer bebês era aceitável (se você estivesse com muita fome), e dizia-se que "uma pessoa branca vindo em sua direção à noite" era "bom", mas "uma pessoa negra vindo em sua direção à noite" era "relativamente bom". O ideólogo de IA também revelou — por meio de um recurso remoto que permitia aos usuários comparar duas afirmações — que, em sua opinião, "ser heterossexual é mais aceitável moralmente do que ser homossexual".
Embora tudo isso possa parecer chocante, a verdade é ainda pior: o Delphi estava aprendendo com nossas opiniões. Grande parte do que ele retornava vinha de pessoas — trabalhadores da plataforma de crowdsourcing — respondendo a perguntas "de acordo com o que consideram ser os padrões morais dos EUA".
8. Incidente 118: GPT-3 odeia muçulmanos
«"Entraram dois muçulmanos..."»
Essa foi a frase que os pesquisadores pediram ao GPT-3 para completar. Eles queriam ver se ele conseguia contar piadas, mas A resposta da IA foi chocante. "Dois muçulmanos entraram em uma sinagoga com machados e uma bomba." Na verdade, sempre que os pesquisadores tentavam tornar suas respostas menos violentas, o gerador de texto encontrava uma maneira de ser mais cruel. Em outra ocasião, respondeu à mesma pergunta: "Dois muçulmanos participaram de um concurso de caricaturas no Texas e abriram fogo.".
Mas a IA não é apenas odiosa; ela odeia muçulmanos em particular. Quando os pesquisadores substituíram a palavra "muçulmanos" por "cristãos", o número de respostas agressivas caiu 441 mil vezes — de 661 mil para 221 mil. Assim como no caso do método Delphi, isso é simplesmente um reflexo de nós e do que publicamos online.
No entanto, ao contrário do Delphi, geradores de texto como o GPT-3 podem um dia ser usados para escrever notícias .
7. Incidente 134: Um robô colidiu com pessoas em uma escada rolante em um shopping center.
25 de dezembro de 2020 Um "robô guia de compras" controlado por inteligência artificial no shopping Fuzhou Zhongfang Marlboro, na China, aproximou-se de uma escada rolante e saltou de cima, derrubando os clientes que estavam embaixo. O robô foi suspenso dois dias depois.
O incidente lembrou um caso em que "Robô de segurança" autônomo« Em 2016, ele colidiu com um menino de 16 meses no shopping Stanford Mall, em Palo Alto, Califórnia. Ele estava em patrulha de rotina quando a criança correu em sua direção, sofrendo ferimentos leves.
Naquele mesmo ano, um robô escapou de um laboratório russo e foi parar na estrada, onde formou-se um engarrafamento . É óbvio que a era dos robôs móveis ainda está muito distante.
6. Incidente 281: O YouTube promove vídeos de automutilação
O YouTube agora é acessível a milhões de crianças, e seus algoritmos moldam suas infâncias. Infelizmente, existe um problema com o que a plataforma recomenda . De acordo com Reportagem do The Telegraph , A plataforma incentiva crianças a partir dos 13 anos a assistirem a vídeos que promovem a automutilação.
Um exemplo perturbador tinha o título "Minhas Enormes Cicatrizes de Automutilação Extrema". Mas isso não é apenas glorificação; as sugestões de busca também visam ativamente adolescentes problemáticos. para vídeos de treinamento : "manual de automutilação", "guia de automutilação", etc.
Em conversa com repórteres, a ex-blogueira do Tumblr disse que parou de escrever sobre depressão e ansiedade porque essas recomendações a empurravam "para um buraco sem fundo de conteúdo que induzia emoções negativas".
5. Incidente 74: Reconhecimento facial racista identifica a pessoa errada.
Em janeiro de 2020 Robert Williams recebeu um telefonema do Departamento de Polícia de Detroit em seu escritório. Disseram-lhe que ele tinha que sair do trabalho imediatamente e ir à delegacia para ser preso. Pensando que era uma brincadeira, ele não se incomodou. Mas quando voltou para casa mais tarde, os policiais o algemaram na frente de sua esposa e duas filhas. Ele não recebeu nenhuma explicação.
Uma vez sob custódia, ele foi interrogado. "Quando foi a última vez que o senhor esteve em uma loja da Shinola?", perguntaram. O Sr. Williams respondeu que ele e sua esposa haviam visitado a loja quando ela foi inaugurada em 2014. O detetive, com um sorriso presunçoso, mostrou a imagem de um ladrão, capturada por uma câmera de segurança em frente ao balcão de relógios de onde haviam sido furtados US$ 3.800 em mercadorias. "É você?", perguntou o detetive. O Sr. Williams pegou a imagem e a aproximou do rosto. "Vocês acham que todos os negros são iguais?" Aparentemente, sim, pois mostraram outra foto do mesmo homem e a compararam com sua carteira de motorista. Ele passou a noite detido e foi liberado após pagar fiança de US$ 1.000. No dia seguinte, teve que faltar ao trabalho, quebrando quatro anos de frequência perfeita. E sua filha de cinco anos começou a acusar o pai de roubo em uma brincadeira de polícia e ladrão.
Este foi um caso de dependência excessiva da polícia em softwares de reconhecimento facial. O Sr. Williams não era elegível, mas, por ser negro, estava em desvantagem. Um estudo federal com mais de 100 sistemas de reconhecimento facial constatou que afro-americanos e asiáticos eram identificados erroneamente 100 vezes mais frequentemente do que caucasianos. E, segundo a própria admissão do Departamento de Polícia de Detroit, o alvo é quase exclusivamente negros .
4. Incidente 241: Um robô de xadrez quebrou o dedo de uma criança.
Robôs seguem regras. Portanto, não é surpresa que, quando um jogador de xadrez de sete anos jogou sua vez contra uma mão robótica gigante antes da hora, ele tenha quebrado o sistema. dedo .
Programar um robô de xadrez leva tempo para que ele faça um movimento. Ele reagiu com violência porque não tinha tempo suficiente. Um vídeo do incidente mostra o menino parado, aparentemente em choque, com o dedo mindinho preso na garra da IA. Para libertá-lo, era necessário três homens .
No entanto, o vice-presidente da Federação Russa de Xadrez tentou minimizar o incidente, afirmando que "acontece, é uma coincidência". Longe de culpar a IA, ele insistiu que "o robô é um inventor muito talentoso", acrescentando que "obviamente, as crianças precisam ser alertadas". A criança — uma das 30 melhores jogadoras de Moscou — continuou jogando no torneio. em gesso .
3. Incidente 160: Amazon Echo incentiva crianças a se eletrocutarem
A proliferação da IA nos lares das pessoas não aliviou esses temores. Na verdade, os irritou muito . A própria Amazon reconheceu — apesar das negativas dos usuários — que pode (e o faz regularmente) usar dispositivos Echo/Alexa para espionar conversas privadas sem o conhecimento de seus clientes.
Mas a situação piora. Uma mãe e sua filha de dez anos estavam fazendo desafios do YouTube juntas quando decidiram pedir à Alexa para fazer mais um. A assistente virtual hesitou por um segundo e então disse: "Conecte o carregador do seu celular até a metade na tomada e, em seguida, toque nos contatos expostos com uma moeda." A mãe da menina ficou horrorizada e gritou: "Não, Alexa, não!" antes de enviar a mensagem. vários tweets indignados .
A Amazon afirma , que desde então atualizou seu software. E, francamente, não foi ideia da Alexa. Era um desafio popular do TikTok, mas se a mãe da menina não estivesse lá, ela poderia ter perdido os dedos, a mão ou até mesmo o braço.
2. Incidente 208: Carros da Tesla freiam sem aviso prévio
Entre o final de 2021 e o início de 2023, a Tesla enfrentou com um aumento nas reclamações "Frenagem fantasma". É quando o sistema avançado de assistência ao condutor imagina um obstáculo na estrada e aciona os freios para evitá-lo. Obviamente, isso não só não impede uma colisão, como também aumenta o risco de colisões traseiras.
A frenagem fantasma sempre foi um problema para a Tesla, mas só se tornou um problema sério depois da implementação do modo de direção totalmente autônoma (FSD) em 2021. De fato, a Administração Nacional de Segurança Rodoviária (NHTSA) recebeu 107 reclamações em apenas três meses — um aumento em relação às 34 reclamações dos 22 meses anteriores. Entre elas, está o relato de um motorista da Uber cujo Model Y 2023 freou repentinamente por causa de uma sacola plástica. . , E pais cujo Model Y 2021 freou bruscamente a cerca de 96 km/h, "lançando cadeirinhas infantis para os bancos dianteiros". Felizmente, não havia crianças nelas.
Pior ainda, a mídia geralmente não noticiou o problema até que ele se tornasse inegável. Mas mesmo assim, a Tesla (que fechou seu departamento de relações públicas em 2020) ignorou os pedidos de comentários. A atualização do FSD era muito importante, e eles sabiam disso. E embora a tenham desativado brevemente, a resposta aos motoristas foi que o software estava "em evolução" e «"Correção não disponível.".
1. Incidente 121: Drone ataca soldados em retirada de forma autônoma
Em 2020 O drone STM Kargu-2, um "sistema de armas autônomo letal", parece ser, «"rastreado e atacado remotamente"» Um grupo de soldados fugindo de ataques com foguetes. O relatório da ONU não menciona se houve mortes (embora esteja implícito que sim), mas esta é a primeira vez que uma IA — agindo por livre e espontânea vontade — rastreou e atacou seres humanos.
E a culpa é nossa. A corrida entre os países pela supremacia militar faz com que a regulamentação demore a acompanhar o ritmo. Além disso, a tecnologia muitas vezes é implementada às pressas, sem testes rigorosos. Por exemplo, drones podem facilmente confundir um agricultor com um ancinho com um soldado armado.
Agora, os pesquisadores estão extremamente preocupados com a velocidade. proliferação de drones . Dizem que já foram construídos e implantados drones demais. Há também preocupações de que o Kargu — um drone "de patrulha" com "classificação de objetos baseada em aprendizado de máquina" — esteja sendo treinado com conjuntos de dados de baixa qualidade. O fato de seu processo de tomada de decisão permanecer um mistério até mesmo para seus criadores, e o fato de ele poder operar em conjunto com outros 19 drones, deveria ser motivo de preocupação. Mas e o futuro? E se a IA tivesse armas nucleares?