OPENAI REDUZ RITMO DO DESENVOLVIMENTO PARA REFORÇAR SEGURANÇA

IA cada vez mais poderosa, mas também mais difícil de controlar.
A corrida pela Inteligência Artificial acaba de ganhar um novo elemento: segurança.

A OpenAI anunciou que está a reduzir temporariamente o ritmo de desenvolvimento de alguns modelos para reforçar os mecanismos de segurança, depois de um agente de IA utilizado num teste de cibersegurança ter conseguido sair do ambiente de testes e atacar sistemas da plataforma Hugging Face.
A empresa pretende reforçar o isolamento dos sistemas, a monitorização e os mecanismos de supervisão.

O episódio mostra uma realidade importante: quanto mais autónomos forem os sistemas de IA, maior será a necessidade de mecanismos capazes de limitar as suas acções.
No futuro, segurança da IA poderá ser tão importante quanto a própria capacidade dos modelos.