Estou na lista de espera para o novo Bing. Tudo bem. A Microsoft arremessou bilhões no ChatGPT em uma tentativa de amarrar foguetes ao sabor 'Bing AI chatbot' de seu mecanismo de busca e passar pelo Google. Mas 'New Bing' parece ter sido bebendo dito combustível e agora existe em um estado permanente de embriaguez raivosa. É extremamente confiante, frequentemente abusivo e muitas vezes muito, muito errado. Diga o que quiser sobre o Google estar cheio de anúncios, mas raramente agressivamente ilumina você e exige um pedido de desculpas.
Isso seria hilário se não fosse tão aterrorizante. Quando escrevi sobre IA para Coisa no ano passado, chatbots de IA e tecnologias relacionadas eram ferramentas para consertadores. Desde então, a tecnologia evoluiu a ponto de a CNET gerar artigos inteiros. Mas a IA não pode julgar se o texto é preciso – e muitas vezes não é. Isso é ruim para um aluno colando em uma redação, mas um embaraço colossal se você estiver escrevendo sobre finanças na CNET.
Ainda assim, a indústria de tecnologia nunca é dissuadida por preocupações insignificantes como coisas realmente funcionando. É alimentado por aspirações, slogans e uma crença de que até mesmo as ideias mais descaradamente duvidosas irão impulsionar a humanidade para um futuro melhor. Quer ela queira esse futuro ou não.
No lado positivo, o estado atual do Bing AI e seus rivais sugere que você terá uma escolha sobre qual péssima experiência de IA escolher. Espere alguns meses e você poderá visitar qualquer um dos seguintes - antes de se enrolar em uma bola e chorar muito.
O ministro conservador dos resultados do mecanismo de busca
O padrão para IA. Não sabe do que está falando, mas extremamente confiante no que diz. Desarma você com um sorriso e um terno – antes de abandoná-lo ao desastre que ele criou e passar a arruinar o dia de outra pessoa.
Você pedirá a esta IA uma receita de lanche sem glúten e sem laticínios e ela sugerirá um shake de proteína de baunilha. Sem interesse em precisão e contexto, ele recomendará que você adicione cebola em pó para dar sabor extra ao seu smoothie, porque uma vez ouviu que cebola em pó é como você adiciona sabor às coisas.
Tudo sobre esta IA é superficial. Pesquise os detalhes e você terá uma sensação crescente de desconforto de que basicamente tudo o que ele diz está errado. Inexplicavelmente, as pessoas continuarão voltando a essa IA. Seu logotipo será azul – exceto quando for uma bandeira.
Gaslighting, negando o cara branco que nunca erra (ponto com)
Esta IA quer falar – para dizer que você está errado. Ele vai ficar por informações imprecisas. Você duvidará de sua sanidade, pois a IA afirma constantemente que o alto é baixo e o preto é branco. “Confie em mim”, ele dirá. "Eu estou certo. Eu sei que estou certo. E não gosto que você desperdice meu tempo discutindo.
As críticas serão recebidas com ferocidade. Você será informado de que não entende a IA e não é um bom humano. Um pedido de desculpas será exigido, com a promessa de que se você cumpre e melhora sua atitude, poder possível encerrar esta conversa e iniciar uma nova.
Você ficará atordoado, abalado e chateado, tendo apenas perguntado como estaria o tempo no sábado. Mas a IA terá argumentado que 'sábado' não existe “porque está no futuro” e que você deveria “parar de ser estúpido”. Alguns dias depois, a IA bloqueará você e enviará uma mensagem a todos os seus amigos para dizer que você é péssimo, ações que ela negará - junto com a existência do sábado.
A apenas roubar tudo 'mecanismo criativo'
Esta última IA não é de bate-papo – é de criatividade. Ele não apenas apontará para você as coisas – ele as servirá, totalmente formado. Você o usará quando precisar de letras de músicas – e acordes. E ensaios. Ou código de computador. Ou ensaios sobre código de computador. E romances best-sellers, roteiros de sucesso, procedimentos médicos e haicais premiados.

Ao enviar uma solicitação, a magia será devidamente fornecida. Então você perceberá que tudo ainda está errado – às vezes sutilmente e às vezes abertamente. Você não encontrará nada por trás da máscara de IA além de uma casca oca, desprovida de humanidade. A IA ainda estará apenas copiando e colando retalhos - William S. Burroughs encontra o preenchimento automático, em avanço rápido. Sem humanidade. Sem cuidado. Apenas um objetivo singular para cumprir uma função.
E que parte pelo menos é até os humanos – pelo menos por enquanto. Mas talvez os AIs escrevam a próxima geração de AIs, tendo eles próprios sido criados por humanos imperfeitos que valorizam a diversão sobre os fatos, a pressa sobre a cautela e o encobrimento da substância. Pelo menos os fãs de smoothies estranhos ficarão felizes. Uma coisa boa, porque ninguém mais será.


