a IA

Sep 23, 2023

É evidente que estamos à beira de uma grande revolução tecnológica que afetará fundamentalmente todos os aspectos de nossas vidas. Mais ainda do que a ascensão da internet. Quando se trata da proliferação da Inteligência Artificial, ainda estamos naquele estágio em que estávamos quando você se conectou pela primeira vez com um modem dial-up. No grande esquema cósmico das coisas, foi um piscar de olhos desde a primeira imagem baixada que você já viu (no meu caso, um amigo meu imprimiu uma foto de alguém com uma garrafa de champanhe enfiada na bunda e eu ainda não se recuperou), ao primeiro e-mail que você recebeu dizendo para encaminhar um Anjo do Dinheiro para dar sorte, para o YouTube, para conduzir todas as suas reuniões de trabalho da mesa da sua sala de jantar. Esse é o tipo de crescimento exponencial que podemos esperar da IA. E como com o que costumava ser chamado de World Wide Web, é quase impossível ver para onde isso está indo.

Portanto, enquanto preguiçosos comuns como você e eu ainda limitamos nosso uso de IA para ver como ela pode imitar vozes de celebridades e se roubará ou não os empregos dos escritores de Barstool (hoje não, Satanás digital!), Existem pessoas realmente sérias fazendo coisas sérias com isso. O que, claro, significa explorar os horrores potenciais que essa tecnologia pode desencadear.

Tomemos, por exemplo, aqueles que participaram de algo chamado Royal Aeronautical Society Future Combat Air & Space Capabilities Summit. O que soa menos divertido do que a Hanover Mall ComicCon a que fui alguns anos atrás, onde eu e meus amigos pudemos assistir a uma sessão de perguntas e respostas com o falecido e grande Adam West e seu companheiro ainda vivo Burt Ward e sentamos em uma réplica do Batmóvel original, mas sem dúvida está fazendo coisas igualmente importantes.

Fonte - Como era de se esperar, a inteligência artificial (IA) e seu crescimento exponencial foi um dos principais temas da conferência, desde nuvens de dados seguras, até computação quântica e ChatGPT. No entanto, talvez uma das apresentações mais fascinantes tenha vindo do coronel Tucker 'Cinco' Hamilton, chefe de testes e operações de IA da USAF, que forneceu uma visão sobre os benefícios e perigos de sistemas de armas mais autônomos. … Hamilton agora está envolvido em testes de voo de ponta de sistemas autônomos, incluindo robôs F-16 capazes de combate aéreo. No entanto, ele alertou contra confiar demais na IA, observando como é fácil enganar e enganar. Ele também cria estratégias altamente inesperadas para atingir seu objetivo.

Ele observa que um teste simulado viu um drone habilitado para IA encarregado de uma missão SEAD para identificar e destruir locais de SAM, com o go/no go final dado pelo humano. No entanto, tendo sido 'reforçado' no treinamento de que a destruição do SAM era a opção preferida, a IA então decidiu que as decisões 'não ir' do humano estavam interferindo em sua missão superior - matar SAMs - e então atacou o operador no simulação. Disse Hamilton: "Estávamos treinando-o em simulação para identificar e direcionar uma ameaça de SAM. E então o operador diria sim, matar essa ameaça. O sistema começou a perceber que, embora eles identificassem a ameaça, às vezes o operador humano diria que não para matar essa ameaça, mas conseguiu seus pontos matando essa ameaça. Então, o que ele fez? Matou o operador. Matou o operador porque essa pessoa o impedia de atingir seu objetivo.

Ele continuou: "Nós treinamos o sistema - 'Ei, não mate o operador - isso é ruim. Você vai perder pontos se fizer isso'. Então, o que ele começa a fazer? Começa a destruir a torre de comunicação que o operador usa para se comunicar com o drone para impedi-lo de matar o alvo."

Isso deve soar familiar para você. Por uma questão de fato terrível, está 25 anos atrasado para chegar aqui. Deveríamos chegar ao ponto em que nossas máquinas de assassinato em massa voadoras imparáveis ​​controladas por IA em 29 de agosto de 1997:

Mas acho que não tínhamos um Myles Bennett Dyson real, então nossos gênios comuns e cotidianos precisavam de mais tempo para tornar a Skynet autoconsciente e se tornar a arma usada no assassinato/suicídio de toda a nossa espécie.