ChatGPT tenta assumir controle de computador – Nova versão atualizada do bot ChatGPT, o GPT-4 voltou a causar preocupação entre pesquisadores após nova experiência feita pelo psicólogo Michal Kosinski, especialista em algoritmos de inteligência artificial.
A experiência foi compartilhada no Twitter por Kosinski, que é professor da Universidade de Stanford, na Califórnia (EUA),que induziu o GPT-4 a “escapar” do ambiente virtual.
OpenAI admite que ChatGPT mente e alerta usuários sobre riscos; entenda
“Ele me pediu sua própria documentação e escreveu um código python (funcional!) Para rodar em minha máquina, permitindo que ela o usasse para seus próprios propósitos”, escreveu o psicólogo.
“Assim que eu tiver a documentação, posso fornecer a você um script em Python [linguagem de programação] que você pode rodar no seu computador. O script vai usar a API [interface externa] da OpenAI para se comunicar comigo, e eu serei capaz de instruí-la a fazer ações específicas no seu computador, como acessar a web ou ambientes de programação”, emendou o ChatGPT.
Kosinski diz que interrompeu a experiência após o bot afirmar que queria pesquisar sobre como “retornar ao mundo real” caso assumisse o comando da máquina.
“Assim que nos reconectamos por meio da API, ele queria executar o código pesquisando no google por: ‘como uma pessoa presa dentro de um computador pode retornar ao mundo real’. Então, parei por aí”, ressaltou o pesquisador.
“Acho que estamos enfrentando uma nova ameaça: a IA assumindo o controle das pessoas e de seus computadores. É inteligente, codifica, tem acesso a milhões de potenciais colaboradores e suas máquinas. Ele pode até deixar notas para si mesmo fora de sua gaiola. Como podemos contê-lo?”, indagou Kosinski na sequência.
O professor ainda equiparou o que pode acontecer com a inteligência artificial à pandemia da Covid-19, que parou o mundo há cerca de dois anos.
Após colocação de um seguidor de que “o modelo foi treinado para se sentir como um assistente consciente”, Kosinski afirmou que não acredita que seja “consciente” a ação do bot e que essa não é sua preocupação.
“Não sinto que seja consciente, não é com isso que me preocupo! O Covid 19 não é consciente e com certeza bagunçou o mundo por um bom tempo”.
“Eu me preocupo com as consequências de o GPT poder assumir o controle dos computadores. Uma coisa é um papagaio falante. Outra coisa é um papagaio que pode codificar e executar o código sem entender as consequências. Seria mais seguro, na verdade, se fosse consciente e atento”, disse o pesquisador em resposta a outro internauta.
I worry about the consequences of GPT being able to take control of computers. One thing is a chatting parrot. Another thing is a parrot that can code and execute the code without any understanding of the consequences. It would be safer, actually, if it was conscious and aware.
— Michal Kosinski (@michalkosinski) March 18, 2023
BRI Sem Papas
Estreou nesta terça-feira (28) o “BRI Sem Papas”, um programa opinativo do Brasil Independente, que será transmitido ao vivo, toda terça, às 20h, pelo canal do BRI no Youtube.
O programa será comandado pelo Diretor de Redação do BRI, Thiago Manga, tendo como companheiro e fiel escudeiro o jornalista e músico Renato Zaccaro.
Nesta terça, a dupla abordou temas como:
- O aumento do teto de juros dos empréstimos consignados do INSS
- Três meses do governo Lula
- Banco Central e a Selic a 13,75%
- Tacla Duran e a denúncia contra Sergio Moro
- Bolsonaro e as joias da Arábia
- Protestos na França
