Tudo sobre Inteligência Artificial

O lançamento do DeepSeek, modelo de inteligência artificial (IA) desenvolvido na China, foi um grande acontecimento. No entanto, além de abrir novas oportunidades entusiasmantes, a IA também despertou alguns temores.

O principal está relacionado com a segurança dos dados usados pelo chatbot. Alguns países, incluindo os Estados Unidos, já determinaram a proibição do uso da ferramenta em dispositivos governamentais. Agora, uma empresa de segurança apresentou um relatório preocupante sobre a tecnologia chinesa.

Diversas medidas de segurança não são aplicadas no DeepSeek, diz empresa

A companhia NowSecure analisou o DeepSeek e anunciou os resultados da sua investigação (confira na íntegra). Segundo o documento, a IA chinesa envia dados confidenciais por canais não criptografados.

Além disso, os conteúdos são enviados para servidores controlados pela ByteDance, empresa chinesa proprietária do TikTok. Isso possibilita que os dados sejam cruzados com outras informações de usuários coletadas.

A auditoria ainda encontrou outros comportamentos consideraram potencialmente preocupantes. Por exemplo, o aplicativo chinês não está equipado ou disposto a fornecer proteções básicas de segurança de seus dados e identidade. A empresa de segurança afirma que “existem práticas fundamentais de segurança que não estão sendo observadas, intencionalmente ou não”.

Em função dos riscos citados, a NowSecure recomenda que o DeepSeek não seja utilizado. A IA chinesa não se pronunciou oficialmente sobre o relatório até o momento.

Leia mais

DeepSeek é considerada uma ameaça para outras gigantes do setor

• A IA do DeepSeek foi projetada para lidar com tarefas complexas de raciocínio e tem apresentado resultados que vêm surpreendendo o mercado.
• O grande diferencial é o baixo custo da tecnologia, o que pode ameaçar a posição dominante dos principais players.
• Para se ter uma ideia, o modelo chinês foi treinado ao custo de aproximadamente US$ 6 milhões, enquanto ferramentas como o Llama 3.1, da Meta, custaram mais de US$ 60 milhões para serem desenvolvidos.
• A empresa chinesa adota estratégias como o chamado aprendizado por reforço, que permite que os modelos aprendam por tentativa e erro.
• Além disso, ativa apenas uma fração dos parâmetros do modelo para tarefas específicas, economizando recursos computacionais.
• E melhora a capacidade dos modelos de processar dados e identificar padrões complexos.
• A startup ainda adota um modelo parcialmente aberto, permitindo que pesquisadores acessem seus algoritmos.
• Isso democratiza o acesso à IA avançada e promove maior colaboração na comunidade global de pesquisa.