Rafael NazarA Anthropic lançou recentemente o Fable, uma versão pública e limitada do seu sistema de segurança digital, Mythos. No entanto, a nova ferramenta tem gerado polêmica entre especialistas em cibersegurança, que criticam os bloqueios excessivos que a plataforma impõe, até mesmo para tarefas simples.
Pesquisadores têm relatado que o Fable rejeita solicitações que, à primeira vista, parecem inofensivas. Valentina “Chompie” Palmiotti, da IBM X-Force, exemplificou que até mesmo a leitura de um blog pode ser barrada. Essa situação levanta preocupações sobre a usabilidade da ferramenta no dia a dia de profissionais da área.
O que faz o Fable bloquear pedidos
Quando um pedido é considerado sensível, o Fable interrompe a interação e informa que a mensagem foi sinalizada por tópicos relacionados à cibersegurança ou biologia. A empresa alega que esses filtros são necessários para evitar o uso indevido da tecnologia, como a criação de malware.
Além disso, a Anthropic também bloqueia solicitações ligadas à biologia, temendo que possam ser utilizadas para desenvolver armas biológicas. Essa abordagem, embora cautelosa, pode limitar a eficácia da ferramenta em contextos onde a segurança digital é uma preocupação legítima.
Especialistas reclamam dos filtros
Matt Suiche, da startup Tolmo, destacou que o sistema parece ser excessivamente rígido, tratando pedidos de boas práticas de engenharia de software como se fossem relacionados a cibersegurança. Ele acredita que a abordagem baseada em palavras-chave pode ser um fator limitante para a inovação.
Apesar das críticas, Suiche reconhece que a Anthropic está em uma fase inicial de desenvolvimento e que ajustes são esperados. Ele sugere que, com o tempo, a empresa poderá relaxar as restrições, permitindo um uso mais amplo e eficaz da tecnologia.
O Mythos, que deu origem ao Fable, foi lançado em abril e inicialmente teve acesso restrito. Recentemente, a Anthropic ampliou o acesso a centenas de organizações em 15 países, mas as críticas sobre os bloqueios ainda persistem, evidenciando a necessidade de um equilíbrio entre segurança e funcionalidade.
