Comissão Federal do Comércio dos EUA investiga a empresa OpenAI para determinar se a sua popular Aplicação ChatGPT prejudica os consumidores ao gerar informações falsas e se a sua tecnologia faz um utilização indevida dos dados do utilizador.
A OpenAI, apoiada pela Microsoft, foi notificada do inquérito através de um questionário de 20 páginas, que pede à empresa para descrever incidentes em que os seus utilizadores foram falsamente difamados e partilhar os esforços da empresa para garantir que tal não volta a acontecer.
A investigação do regulador dos EUA foi primeiramente relatada pelo The Washington Post.
O lançamento do ChatGPT pela OpenAI em novembro passado chocou o mundo ao mostrar o poder dos grandes modelos de linguagem (ou LLM), uma forma de inteligência artificial (IA) conhecida como “IA generativa” que pode produzir conteúdo semelhante ao humano em segundos.
No meio da agitação sobre as capacidades da tecnologia, as autoridades receberam relatos de que estes modelos também podiam gerar conteúdos ofensivos, falsos ou simplesmente bizarros, por vezes designados por “alucinações”.
A presidente da Comissão de Comércio, Lina Khan, dirigiu-se a uma audiência da comissão do Congresso na quarta-feira e, embora sem mencionar a investigação, disse aos legisladores que a sua agência estava preocupada com a produção potencialmente difamatória do ChatGPT.
“Ouvimos falar de relatórios em que a informação sensível das pessoas aparece em resposta à pergunta de outra pessoa”, disse Khan.
“Ouvimos falar de calúnias, declarações difamatórias, coisas totalmente falsas. É esse tipo de fraude e de engano que nos preocupa”, acrescentou.
A investigação do regulador incide sobre a forma como este aspeto pode prejudicar os utilizadores, de acordo com o questionário, mas também se debruça sobre a utilização de dados privados pela OpenAI para construir o seu modelo.O modelo da OpenAI é um líder mundial neste domínio.
O GPT-4 da empresa é a principal tecnologia subjacente ao ChatGPT, bem como a dezenas de outros programas de empresas que pagam uma taxa à OpenAI para aceder ao seu modelo para utilização própria.
Num tweet, o diretor executivo da OpenAI, Sam Altman, lamentou que as notícias sobre a investigação tenham sido divulgadas nos meios de comunicação social, o que “não gera confiança”.
Acrescentou que “é claro” A OpenAI vai cooperar com a Comissão Federal do Comércio e afirmou que é “muito importante para nós que a nossa tecnologia seja segura e amiga do consumidor, e estamos confiantes de que cumpriremos a lei”.
Uma investigação da Comissão de Comércio não implica necessariamente a adoção de outras medidas e a Comissão de Comércio pode encerrar o processo se estiver satisfeita com a resposta da empresa em questão.
Se a entidade reguladora detetar práticas ilegais ou pouco seguras, exigir medidas correctivas e possivelmente iniciar uma ação judicial.
A OpenAI e a Comissão de Comércio não responderam a um pedido de comentário.