Precisamos repensar os mecanismos de segurança da IA

Quais são as medidas necessárias para mitigar os efeitos nocivos do uso da Inteligência Artificial em diversas aplicações?

O debate sobre o uso dessa tecnologia já é antigo, com vários casos ao longo dos anos evidenciando como a falta de controle e transparência na coleta e aplicação de dados pode gerar problemas significativos.

Diversos reguladores ao redor do mundo discutem alternativas para proteger a sociedade de um uso irresponsável. Algumas empresas já implementam protocolos e processos internos para lidar com esses riscos, mas o assunto é complexo e inclui até casos como o desmembramento da OpenAI.

Uma abordagem interessante para lidar com os riscos é a criação de um "sandbox", uma prática já usada no setor financeiro em diversos países, incluindo o Brasil. Nesse modelo, novas tecnologias são testadas em um ambiente confinado, onde é possível validar sua segurança e garantir que os prejuízos sejam mínimos ou inexistentes antes de serem amplamente implementadas.

Neste episódio do podcast MIT Technology Review Brasil, Carlos Aros e Rafael Coimbra discutem o assunto.

Este podcast é um oferecimento do SAS.