Antropic: Constitutional Classifiers++ contra jailbreaks

Sexta-feira é dia de repercutir as principais notícias da semana, no mundo da IA. Vem ver quem participou desse papo:

• Marcus Mendes, host sob controle
• Fabrício Carraro, co-host sob controle, Program Manager da Alura, autor de IA e host do podcast Dev Sem Fronteiras
• Guilherme Silveira, CINO e co-fundador da Alura

Links:

• Fabrício na AI SKILLS’2026 Virtual Conf
• Vídeo do Fabrício com “Golpe do PIX”
• Kling motion control
• 216: Tess, a plataforma de colaboração de modelos e agentes, com o CEO Ricardo Barros
• Barret Zoph, Luke Metz, e Sam Schoenholz voltam à OpenAI
• 213: O Império da IA – Sonhos e Pesadelos na OpenAI de Sam Altman
• Mais dois funcionários da Thinking Machines Lab devem migrar para a OpenAI
• Fontes dizem que falta planejamento à Thinking Machine Labs
• ChatGPT ganha versão que compete com o Google Tradutor
• OpenAI investe em startup de Sam Altman
• OpenAI faz acordo com a Cerebras
• Trump cobra empresas por consumo de energia em IA
• Microsoft promete mudanças no consumo de energia
• OpenAI busca fornecedores de hardware nos EUA
• OpenAI compra a Torch
• Anthropic anuncia o Claude for Healthcare
• Claude Cowork é um agente que realiza ações em pastas/arquivos do macOS
• Claude Code ganha diff view
• Anthropic corta acesso da xAI ao Claude
• Mike Krieger vier líder da nova divisão Labs da Anthropic
• Microsoft aumenta relação com a Anthropic
• Satya Nadella no podcast do Dwarkesh Patel
• Andrea Vallone, ex-OpenAI, se junta à Anthropic
• Relatório Econômico da Anthropic para 2026
• Google anuncia o MedGemma 1.5 e MedASR
• Google anuncia o TranslateGemma
• Google lança o Gemini Personal Intelligence
• Apple usará versão do Gemini na Apple Intelligence e Siri
• Google melhora o Veo 3.1
• Google anuncia o Universal Commerce Protocol (UCP)
• Google mostrará anúncios personalizados no modo IA
• Google remove AI Overviews para algumas perguntas médicas
• Meta exclui Brasil e Itália de banimento de LLMs no WhatsApp
• Mark Zuckerberg anuncia a iniciativa Meta Compute
• China anuncia regras de importação de chips H200 ao país
• Z.ai lança o GLM-Image
• Bandcamp bane uso de IA na plataforma
• Matthew McConaughey faz registro contra sua clonagem digital indevida
• ElevenLabs apresenta o Scribe v2
• Hugging Face anuncia o Open Responses
• Polícia do Reino Unido culpa o Microsoft Copilot por erro em relatório
• Microsoft, Meta, Amazon, Perplexity e Mistral se juntam a Wikimedia Enterprise
• Replit lança Mobile Apps
• Post do Fabrício sobre o Replit
• Linus Torvalds testa vibe coding e aprova experiência
• Projeto do Linus Torvalds
• Tailwind demite parte da equipe de engenharia
• Uso do Stack Overflow cai, enquanto faturamento sobe
• Anthropic: Next-generation Constitutional Classifiers: More efficient protection against universal jailbreaks
• Anthropic: Demystifying evals for AI agents
• Sakana AI apresenta o DroPE
• Weird Generalization and Inductive Backdoors: New Ways to Corrupt LLMs
• Learning Latent Action World Models In The Wild

Garanta o seu lugar no Builders Camp 2026, o principal evento de automação e de IA, focado em resultados reais, e organizado pela Alura e pela PM3!

TechGuide.sh, um mapeamento das principais tecnologias demandadas pelo mercado para diferentes carreiras, com nossas sugestões e opiniões.

Inscreva-se na Newsletter IA Sob Controle, e receba notícias semanais sobre Inteligência Artificial, assinada por Fabrício Carraro.

Preencha o formulário com as suas sugestões para deixar o conteúdo do IA Sob Controle ainda mais interessante.

• Alura Cursos de Tecnologia – https://www.alura.com.br

Edição e sonorização: Rede Gigahertz de Podcasts

00:00:00 - Olá!

00:00:57 - Fabrício na AI Skills 2026

00:02:11 - Golpe do PIX

00:05:30 - Entrevista: Ricardo Barros, TESS

00:06:37 - Enquete: Óculos com IA?

00:11:13 - OpenAI

00:37:12 - Anthropic

01:02:30 - Google

01:20:20 - Meta

01:25:12 - Cantão da China

01:28:15 - Cantinho multimídia

01:32:48 - Rapidinhas

01:48:02 - Estudos da semana