Claude Fable e as restrições severas em consultas de biologia

O dilema da segurança no Claude Fable 5

A Anthropic lançou recentemente o Claude Fable 5, seu modelo mais potente até o momento, classificado como parte da família Mythos. Embora a empresa destaque a capacidade da ferramenta em tarefas científicas complexas, a realidade prática para quem utiliza o modelo é bem diferente: ele simplesmente se recusa a responder perguntas básicas de biologia.

Para um desenvolvedor ou profissional de produto que busca agilidade, esse comportamento é, no mínimo, curioso. O modelo não ignora as respostas por falta de conhecimento, mas por um design de segurança extremamente conservador. Em vez de processar consultas sobre temas como mitocôndrias ou membranas celulares, o Fable redireciona a demanda para o modelo anterior, o Claude Opus 4.8.

Por que a biologia foi bloqueada?

A Anthropic justificou que a decisão é uma escolha deliberada para evitar riscos de segurança, focando principalmente na prevenção de criação de armas biológicas. Segundo a empresa, o Fable possui capacidades tão avançadas em áreas como cibersegurança e biologia que a liberação total poderia ser explorada por atores mal-intencionados.

O nível de filtragem é tão rigoroso que o modelo bloqueia temas inofensivos. Testes realizados mostraram recusas para perguntas sobre:

• Funcionamento de vacinas de mRNA;
• Explicação sobre doenças como o príon;
• Causas de alergias comuns como febre do feno;
• Funcionamento de medicamentos para asma.

Curiosamente, o modelo se mostra muito mais flexível em outros campos. Ele consegue explicar conceitos de cibersegurança, como proteger um iPhone contra invasões, e até temas de química e física, como fusão nuclear, embora mantenha travas para substâncias perigosas, como o gás sarin.

O que muda na prática para o seu fluxo de trabalho?

Para quem integra IAs em processos de automação ou pesquisa, a lição aqui é clara: modelos de ponta, como os da classe Mythos, ainda exigem um gerenciamento de expectativas. O trade-off entre segurança e utilidade imediata é a nova regra do jogo. Se você planeja usar o Fable para tarefas que cruzam o campo da biologia, é provável que encontre falsos positivos que interrompem seu fluxo.

A Anthropic afirmou que está trabalhando para reduzir esses bloqueios excessivos, mas, por enquanto, a recomendação é ter um plano de contingência ou recorrer a modelos menos restritos para consultas científicas cotidianas. Se você ainda gerencia processos complexos de entrega de projetos em planilhas ou ferramentas desconexas, plataformas como Orqueza centralizam sua operação para que você não precise lidar com gargalos manuais enquanto a tecnologia de IA amadurece.

Fonte: theverge.com