Uberlandia, MG Ter, 17 de novembro
19° Máx. 28° · Mín. 19° Parcialmente nublado
Previsão para Uberlândia Hoje: parcialmente nublado
Amanhã, 18/11 29° 20° 86% chuva
qui, 19/11 28° 20° 87% chuva
sex, 20/11 28° 20° 78% chuva
sáb, 21/11 29° 20° 94% chuva
dom, 22/11 29° 20° 85% chuva
seg, 23/11 28° 20° 89% chuva
ter, 24/11 28° 21° 93% chuva
Dados meteorológicos fornecidos por Open-Meteo.
IA da Anthropic impede execução de tarefas básicas de cibersegurança
Imagem: Reprodução
Inteligência Artificial

IA da Anthropic impede execução de tarefas básicas de cibersegurança

Compartilhar Facebook X WhatsApp Telegram

A Anthropic lançou recentemente o Fable, uma versão pública e limitada do seu sistema de segurança digital, Mythos. No entanto, a nova ferramenta tem gerado polêmica entre especialistas em cibersegurança, que criticam os bloqueios excessivos que a plataforma impõe, até mesmo para tarefas simples.

Pesquisadores têm relatado que o Fable rejeita solicitações que, à primeira vista, parecem inofensivas. Valentina “Chompie” Palmiotti, da IBM X-Force, exemplificou que até mesmo a leitura de um blog pode ser barrada. Essa situação levanta preocupações sobre a usabilidade da ferramenta no dia a dia de profissionais da área.

O que faz o Fable bloquear pedidos

Quando um pedido é considerado sensível, o Fable interrompe a interação e informa que a mensagem foi sinalizada por tópicos relacionados à cibersegurança ou biologia. A empresa alega que esses filtros são necessários para evitar o uso indevido da tecnologia, como a criação de malware.

Além disso, a Anthropic também bloqueia solicitações ligadas à biologia, temendo que possam ser utilizadas para desenvolver armas biológicas. Essa abordagem, embora cautelosa, pode limitar a eficácia da ferramenta em contextos onde a segurança digital é uma preocupação legítima.

Especialistas reclamam dos filtros

Matt Suiche, da startup Tolmo, destacou que o sistema parece ser excessivamente rígido, tratando pedidos de boas práticas de engenharia de software como se fossem relacionados a cibersegurança. Ele acredita que a abordagem baseada em palavras-chave pode ser um fator limitante para a inovação.

Apesar das críticas, Suiche reconhece que a Anthropic está em uma fase inicial de desenvolvimento e que ajustes são esperados. Ele sugere que, com o tempo, a empresa poderá relaxar as restrições, permitindo um uso mais amplo e eficaz da tecnologia.

O Mythos, que deu origem ao Fable, foi lançado em abril e inicialmente teve acesso restrito. Recentemente, a Anthropic ampliou o acesso a centenas de organizações em 15 países, mas as críticas sobre os bloqueios ainda persistem, evidenciando a necessidade de um equilíbrio entre segurança e funcionalidade.

0 votos: 0 positivos, 0 negativos (0 pontos)

Deixe uma resposta
Miramontes 350×750
Notíciasletter
Receba nossas noticias
Um resumo direto no seu e-mail.
Sign In/Sign Up Pesquisar
Loading

Signing-in 3 seconds...

Signing-up 3 seconds...