Cientistas assinaram, nesta quarta-feira (29), carta em que pedem pausa de até seis meses em pesquisas relacionadas à Inteligência Artificial (IA).
Sara Helane
Em uma carta publicada no site futureoflife.org, cientistas e outros nomes famosos pedem que empresas parem com experimentos de Inteligência Artificial (IA) por um período de pelo menos seis meses. A petição acontece pelo desejo de que sejam incluídos protocolos de segurança no sistema.
A carta pode ser assinada por qualquer pessoa e já conta com a assinatura de nomes como Elon Musk, CEO da Tesla, SpaceX e Twitter, Steve Wozniak, cofundador da Apple e Evan Sharp, cofundador do Pinterest.
O documento fala que esse pedido não significa necessariamente uma pausa no desenvolvimento da IA em geral, mas apenas uma mudança de foco para tornar esse sistema mais seguro. “A pesquisa e o desenvolvimento de IA devem ser reorientados para tornar os sistemas avançados e poderosos de hoje, mais precisos, seguros, interpretáveis, transparentes, robustos, alinhados, confiáveis e leais”, diz a carta.
Problemas gerados pela Inteligência Artificial
As imagens do ex-presidente dos Estados Unidos Donald Trump sendo preso e do Papa Francisco com um grande agasalho branco viralizaram na última semana por serem imagens feitas com IA, e tiveram a veracidade questionada, o que levou muitos a perceberem um dos maiores riscos do mal uso desse sistema, a Fake News.
O texto faz uma crítica ao “fazer depois corrigir” que empresas que utilizam IA acabam aderindo, exemplo da OpenAI, fundadora do ChatGPT, que permitiu que o público usasse a ferramenta antes mesmo que ela estivesse pronta.
Sobre o uso da IA na atualidade os autores observam que o nível de planejamento e gerenciamento que sistemas como a IA precisam infelizmente não está acontecendo. “Nos últimos meses, vimos os laboratórios de IA se lançando em uma corrida descontrolada para desenvolver e implantar cérebros digitais cada vez mais potentes que ninguém, nem mesmo seus criadores, podem entender, prever, ou controlar, de forma confiável”, expressa o pedido.
Os autores ainda complementam que, sistemas como a IA devem ser desenvolvidos apenas quando os criadores estiverem confiantes se seus efeitos serão positivos e se os riscos serão gerenciáveis.
Ainda é enfatizado que se tal pausa não puder ser rapidamente decretada, caberá aos governos o dever de intervir e instituir outro prazo. Os autores concluem que a humanidade pode desfrutar de um futuro próspero com a IA e que essa pausa é necessária para não haver riscos mais à frente. “Tendo conseguido criar poderosos sistemas de IA, agora podemos desfrutar de um “verão de IA” no qual colhemos os frutos, projetamos esses sistemas para o claro benefício de todos e damos à sociedade uma chance de se adaptar”, diz a carta.
