Ler Resumo
O procurador-geral da Flórida, James Uthmeier, processou nesta segunda-feira, 1, a OpenAI e seu CEO, Sam Altman, por colocarem em risco usuários mais jovens das ferramentas da empresa ao torná-los dependentes e promoverem comportamentos nocivos através do assistente de IA ChatGPT.
“Hoje apresentamos uma ação civil monumental contra Sam Altman e o ChatGPT por colocarem nossas crianças em perigo e enganarem os pais, fazendo-os acreditar que se trata de um aplicativo seguro para uso; claramente não é”, declarou o procurador em uma coletiva de imprensa. Ele alega que a OpenAI não implementou regras para verificar a idade dos usuários. “Sabemos que o ChatGPT pode ser viciante. Ele imita a empatia e características humanas para enganar os usuários e fazê-los fornecer mais informações”, acrescentou.
Procurada pela AFP, uma porta-voz da OpenAI disse: “A IA é uma tecnologia nova e poderosa, e acreditamos que os menores precisam de uma proteção significativa; por isso, implementamos medidas de proteção e políticas que são referência no setor“.
Na ação judicial, Uthmeier cita um estudo recente da Universidade Drexel que aponta perda de sono, pior desempenho escolar e redução das interações sociais entre adolescentes que utilizam chatbots da Character.AI, concorrente da OpenAI, para conversar. A ação afirma que, “apesar do conhecimento público sobre o uso do ChatGPT por menores de idade, incluindo pré-adolescentes, os réus não tomaram medidas para impedir sua utilização”.
Em janeiro, a startup da Califórnia introduziu um sistema que estima a idade dos usuários. Caso identifique um menor de idade, ela aplica medidas adicionais de proteção. O uso do ChatGPT é proibido para crianças menores de 13 anos e exige consentimento dos pais para usuários entre 13 e 17 anos.
Uthmeier também citou um relatório do Centro para Combater o Ódio Digital (CCDH, na sigla em inglês), que manteve conversas com o ChatGPT se passando por um adolescente. Segundo o relatório, o chatbot forneceu conselhos sobre como esconder hábitos alimentares e sobre como planejar um suicídio ou praticar automutilação. “Acreditamos que a OpenAI, seu ChatGPT e Sam Altman, pessoalmente, são responsáveis por um valor que pode potencialmente chegar a bilhões de dólares”, diz o procurador do estado da Flórida.
Recentemente, a OpenAI já havia sido acusada de incentivar comportamentos violentos em um outro processo, relacionado ao tiroteio que ocorreu na Universidade do Estado da Flórida no ano passado. À época, o atirador teve longas conversas com o ChatGPT em que questionava reações da mídia após um atentado, como usar uma pistola e quais seriam os momentos de maior movimentação de pessoas na universidade.
(com AFP)