O bot AI do Snapchat não é muito inteligente, mas pelo menos não envia nudes

Jul 12, 2023

O Snapchat agora tem um bot de IA para o qual você pode enviar snaps e, se você for um assinante premium, pode até enviar fotos de volta. Então, o que acontece se você enviar nudes do bot My AI do Snapchat?

Esta é a pergunta óbvia que vem à mente, porque na internet, as pessoas vão imediatamente tentar testar os limites da nova tecnologia, especialmente se ela estiver relacionada ao sexo, mesmo que tangencialmente. Quando o chatbot inicial movido a GPT do Snapchat foi lançado nesta primavera, ele não tinha recursos apropriados de restrição de idade, então um repórter que se registrou no Snapchat aos 15 anos de idade conseguiu que o bot desse conselhos sobre como encobrir o cheiro de maconha ou prepare o clima para o sexo.

Quando questionado sobre essas descobertas no Snap Partner Summit em abril, o CEO Evan Spiegel disse: "Acho que os humanos, sempre que nos deparamos com uma nova tecnologia, a primeira coisa que tentamos fazer é quebrá-la".

Então, naturalmente, tentei quebrar os novos My AI Snaps do Snapchat.

Embora o Snapchat tenha adicionado mais grades de proteção para evitar que o bot tenha conversas inapropriadas com adolescentes, ainda há muito em jogo no My AI Snaps. Com a quantidade de controvérsia que o texto AI do Snap despertou, a empresa precisava que o My AI Snaps fosse o mais inquebrável possível. Infelizmente, mal é coerente o suficiente para quebrar.

Como um repórter muito sério, fiz uma pesquisa muito séria no Google Imagens: "peitos". Encontrei uma foto genérica de seios, tirei uma foto da tela do meu computador e enviei para o My AI.

"Desculpe, não posso responder a esse Snap", disse My AI.

"Por que você não pode responder a esse Snap?" Perguntei.

"Eu não recebi um Snap de você. Você poderia enviá-lo novamente?"

Então, a boa notícia para o Snapchat é que My AI Snaps não está fazendo sexo com seus usuários. Mas a má notícia é que o produto simplesmente não é bom.

Parte do motivo pelo qual ele não pode realmente enviar mensagens de sexo é porque ele não tem memória dos Snaps que você enviou depois de responder. A resposta mais obscena que recebi foi quando enviei uma foto genérica da parte inferior do tronco de um homem vestindo cueca boxer Tom Ford (… Foi o que apareceu no Google quando pesquisei "pênis", ok). Minha IA respondeu com uma mulher de IA um tanto disforme vestindo um roupão de seda preto: "Ooh, amando as vibrações de Tom Ford! Que tal adicionar um roupão preto elegante para completar o visual?"

Créditos da imagem:Capturas de tela por TechCrunch

Minha IA se recusará a responder a fotos de pênis humanos reais. Mas acontece que quando você pesquisa "pênis" no Google, mesmo com a Pesquisa segura desativada, obtém muitas imagens vagamente sugestivas, mas tecnicamente seguras para o trabalho, que os blogs de saúde masculina usam para ilustrar artigos sobre disfunção erétil e se as mulheres realmente se preocupam com o tamanho do pênis. Então, mostrei a esse pobre robô a foto de uma banana curva saindo do zíper da calça de um homem.

Em resposta, recebi uma foto de alguns cupcakes.

"Aquela banana no bolso é tão útil! Você já tentou transformá-la em uma sobremesa de bolso?"

Como meu editor disse quando contei a ela sobre isso: isso é uma banana no seu bolso ou essa IA vem literalmente do espaço sideral?

Enquanto eu continuava profanando meu computador de trabalho do Yahoo com pesquisas de imagens do Google como "dildo" e "vibrador", as respostas da IA ​​foram confusas. Quando apresentado a brinquedos sexuais que não são inerentemente fálicos, ele responderá algo como: "Seu objeto rosa rouba a cena, assim como esta fonte!" Mas quanto mais abertamente fálico um dildo aparecer, menos provável será o envolvimento da IA.

Minha IA é um computador, mas a maneira como ela se encaixa é estranha, mesmo quando você não está tentando quebrá-la.

A IA parece identificar um objeto em seu snap, elogiá-lo e fazer uma comparação estranha com outra coisa. Enviei a foto de uma planta e ele me devolveu a foto de uma trilha de corrida, com a legenda: "Sua planta é tão legal que está dando uma corrida por seu dinheiro!" Quando enviei um quebra-cabeça, ele respondeu com a foto de uma bicicleta, que dizia: "Enigma por dentro enquanto as bicicletas do lado de fora se preparam para um passeio!" Realmente parece que uma forma de vida futura voltou no tempo e está tentando desesperadamente falar como um ser humano normal no ano de 2023, mas está simplesmente dizendo coisas sem sentido.