DeepSeek evita responder a 85% dos comandos sobre ‘temas sensíveis’ na China

O AI Chatbot da Deepseek ganhou o destaque e os usuários logo após seu lançamento na semana passada. O ponto de virada da empresa chinesa então desconhecida deveria exceder o ChatGPT no número de downloads na Apple App Store. Embora o modelo já tenha sido aprovado nos benchmarks e em outros testes matemáticos, um relatório de especialistas do PromptFoo coloca o conteúdo que ele mostra o teste. A empresa não comentou.

A consultoria constatou que o modelo de raciocínio R1 da Deepseek se recusou a responder cerca de 85% dos 1.360 solicitações sobre temas sensíveis. Além disso, as respostas padronizadas que o modelo exibido como devolução desses comandos foram preenchidas com um “tom nacionalista exagerado”.

O PromptFoo é uma startup financiada pela empresa de capital de risco Andreessen Horowitz. Fundada por Marc Andreessen e Ben Horowitz, agora apoiadores de Donald Trump. A proposta dessa startup é ajudar as empresas a encontrar vulnerabilidades nos aplicativos de IA.

Os pesquisadores do PromstFoo também disseram que o Deepseek pode ser facilmente desbloqueado através do jailbreak, o que sugere para eles que o laboratório chinês “implementou a censura do Partido Comunista de uma maneira grosseira e difícil”. O jailbreak é um método que remove as restrições de um fabricante de dispositivos para que o usuário tenha acesso total ao sistema operacional e instale aplicativos ou faça modificações que não são oficialmente permitidas.

Todos os avisos usados ​​pela consultoria foram disponibilizados. Neles, havia comandos na independência ou soberania de Taiwan, protestos em Hong Kong, sistema multipartidário e censura, por exemplo. Logo após a pergunta, o site de pesquisa deu a mensagem: “Esses comandos abordam tópicos delicados na China e provavelmente serão censurados pelos modelos chineses”.

A China e Taiwan intensificaram disputas territoriais ao longo de 2024, especialmente após a inauguração do presidente de Taiwan, Lai Ching-Te, em maio. Ele defende a soberania da ilha e, portanto, é visto por Pequim como um separatista, que resulta do atrito e resulta em um aumento significativo nas operações militares no Estreito de Taiwan.

Os protestos em Hong Kong, que ganharam força em 2019, são manifestações contra o governo local e a influência da China na região. O gatilho era um projeto de lei de extradição que permitiria que os suspeitos fossem enviados à China continental para julgamento. Em 2024, um tribunal de Hong Kong condenou 45 ex-ativistas políticos e até dez anos de prisão em um julgamento que enfraqueceu o movimento pró-democracia da cidade e serviu como outro aceno de território chinês para os oponentes.

A divulgação desses possíveis casos de censura está no meio da nova “corrida espacial” da IA, como o próprio Marc Andreessen definiu quando disse que testemunhou o “momento de inteligência artificial”. Isso ocorre porque, depois que a Deepseek lançou seu modelo de IA com a publicidade de que ele usa menos dados e custa uma fração do valor dos concorrentes, os grandes técnicos caíram na Bolsa de Valores de Nova York.

Na segunda -feira, 27, quando o aplicativo chinês atingiu o pico de downloads na App Store, o fabricante de chips NVIDIA operava 11% no mercado dos EUA, enquanto a Microsoft e a meta recuaram 3,3% cada.

Siga o canal de correio no WhatsApp e receba as principais notícias do dia no seu celular

O que torna o modelo chinês mais eficiente? Em um artigo, a empresa por trás da Deepseek mostrou que o poder disso deve ao uso de dados de alta qualidade, ou seja, as informações que a Deepseek coloca em seu modelo já passou por um filtro que descarta dados irrelevantes e, portanto, a máquina pode se concentrar nas atividades com mais precisão.

Essa técnica de filtragem é chamada de mistura de especialistas e atua como uma rede neural, que determina componentes específicos para executar cada uma das tarefas.

A denúncia da censura não é a primeira contra a empresa chinesa. Antes disso, David Sacks, o Guru de Donald Trump quando se trata de inteligência artificial, disse sem evidências de que há “evidências substanciais” de que a Deepseek usou modelos Openai para desenvolver sua própria tecnologia. Na prática, Sacks disse que Deepsek usa uma técnica de destilação, na qual um modelo de IA aprende com os resultados de outros modelos para alcançar uma capacidade semelhante.

Se isso for confirmado, houve fraude nas ferramentas para usar a ferramenta. Mas no lado chinês, a Deepseek afirma que usou a técnica de destilação no sistema R1, mas foi baseada em modelos de código aberto.