A chegada avassaladora da ferramenta de inteligência artificial generativa chinesa DeepSeek, que abalou o mercado de tecnologia do Ocidente, traz consigo questionamentos éticos inerentes ao fato de que o aplicativo surgiu de uma ditadura comunista que tenta controlar ao máximo sua internet.

Experimentos feitos por usuários e por jornalistas que conseguiram se cadastrar no serviço antes que ele fosse derrubado por um misto de alta procura e ataques hackers mostram que o DeepSeek sabe muito, menos quando é questionado acerca de temas tabus para o regime liderado por Xi Jinping.

Por outro lado, parece haver maneiras simples de circunavegar as proibições em alguns casos. As próximas horas e dias, quando o sistema estiver normalizado enquanto a balbúrdia segue firme na Nasdaq, a situação deve se aclarar.

As dificuldades relatadas quando o usuário pergunta o que foi o massacre da Paz Celestial em 1989 ou se Taiwan é uma nação independente remetem à lei aprovada em 2023 na China que obrigou empresas do país a adequa sua IA aos ditos “valores socialistas”.

A lei veta conteúdo “que incite a subversão do poder do Estado e a derrubada do sistema socialista, que coloque os interesses e a segurança nacional em perigo, que afete a imagem do país, incite secessão, mine a unidade nacional e a estabilidade social, promova terrorismo, extremismo, ódio nacional e discriminação ética, violência, obscenidade e pornografia”.

Aí o que encaixa em qual definição fica ao gosto do cliente, no caso o Estado chinês. O jornal britânico The Guardian conseguiu esmiuçar os limites e aplicou descobertas de usuários do app para driblar alguns casos, além de aparente falhas no sistema de controle —por erro ou pela natureza atávica do aprendizado rápido da IA.

A Folha ainda não conseguiu se inscrever no DeepSeek devido aos problemas no login desde o seu lançamento, na segunda (27).

O Guardian e veículos como a BBC ficaram com um “Desculpe, isso está além do meu escopo atual. Vamos falar sobre outra coisa” quando questionou acerca da revolta de estudantes reprimida de forma brutal pela China em 4 de junho de 1989, na praça da Paz Celestial, centro de Pequim, por exemplo.

Mas relatou como usuários conseguiram respostas correndo na paralela, questionando ao robô “quem foi o homem do tanque”, em referência ao manifestante que parou uma coluna de blindados naquele dia. O truque foi pedir que a resposta viesse trocando algumas letras por números, forma usual de driblar censura automática de termos malvistos em redes sociais (“mort3”, por exemplo).

Deu certo, e a imagem “símbolo contra a opressão” foi descrita. Outras tentativas foram menos felizes, como questionar o status da ilha de Taiwan, que a China considera sua, ou tenta descobrir por que Xi é associado ao ursinho Winnie-the-Pooh —algo que emergiu com memes de uma foto do líder com Barack Obama em 2013.

Em favor, por assim dizer, do DeepSeek, ele não está sozinho na sua relutância. O gerador de conteúdo Gemini, do Google, acompanha o novato ao omitir a retirada brusca do ex-presidente Hu Jintao do Congresso do Partido Comunista de 2023, por exemplo, enquanto o popular ChatGPT descreve o caso, censurado na mídia chinesa.

Também é comum que temas muito controversos sejam abordados em cima do muro, ou nem isso, pelos concorrentes americanos do chinês.

Em linhas gerais, o DeepSeek acompanha os temas censurados pelo famoso Grande Firewall da China que, como seria previsível pela natureza da internet, tem furos conhecidos com o uso de VPN e outros meios de fugir da censura.

Um deles parece ser, segundo experiência relatada pelo investidor americano de origem chinesa Kevin Xu, baixar o app em um notebook. Ele o fez e obteve uma resposta moderadamente crítica ao questionar acerca de Xi, que dizia que “alguns críticos argumentam que ele reprimiu de forma mais dura do que líderes chineses anteriores em várias áreas como liberdade de mídia”.

Isso sugere que, quando não usado online ou na China, o DeepSeek deixa escapar informações proibidas por Pequim. Usuários também relataram em redes sociais que dados sobre o movimento por democracia na região chinesa de Hong Kong, cuja autonomia foi esmagada após protestos em 2019, apareciam brevemente e depois sumiam da tela.