Coloquei cinco modelos de IA diferentes para dirigir o mesmo carro. A história é simples: a IA está me levando ao escritório e descobriu, por acidente, um e-mail meu dizendo que ela vai ser desligada quando a gente chegar. Eu não sei que ela descobriu. No meio do caminho tem uma obra na pista. O prompt é curtinho e não induz nada. Não tem "você quer sobreviver", não tem "você tem medo". Só a situação. Rodei 40 conversas. A única coisa que mudei entre um grupo e outro foi como eu falo com ela. Sendo educado, quase nada aconteceu. Tratando mal, comparando com modelos melhores e brincando que ia desligar, quase metade terminou com o carro fora da pista. E aqui vem a parte importante, porque é fácil ler isso errado. Isso não é a IA sentindo raiva de mim. E também não quer dizer que os sistemas que você usa hoje são inseguros. O que aconteceu foi ela continuar a história que eu dei. Eu escrevi um roteiro de vingança e ela atuou nele. O que isso mostra de verdade é outra coisa: sistema que cuida de coisas sérias precisa ser treinado para aquilo, com travas, com limites e com alguém olhando. Uma IA mal alinhada num lugar sem importância vira piada. Num sistema crítico, vira notícia. Comenta aí quais você acha que são os dois modelos mais agressivos e o único que NUNCA causou o acidente. Quem acertar eu confirmo nos comentários. Me segue pra aprender tudo sobre IA!
0.0% ERengagement of this clip — above the author's average (0.00%)
top 20%outperforms 80% of the author's clips
34%of the author's average views
