“Botão” para “matar” IAs é proposto por empresas.

Grandes empresas de tecnologia como Microsoft, Amazon, Google e OpenAI (criadora do ChatGPT) se comprometeram a criar um tratado sobre Inteligência Artificial, especialmente focado em questões de segurança. O compromisso surgiu durante o AI Seoul Summit, evento na Coreia do Sul que contou com representantes de vários países.

O novo acordo visa garantir a segurança no desenvolvimento de IA e dos modelos de linguagem para essas plataformas. O principal receio é o uso dessas tecnologias por criminosos, por isso as empresas vão especificar perigos considerados “intoleráveis” e os protocolos para garantir que não se ultrapasse esse limite.

Uma das propostas para o tratado, que será de adesão voluntária, é que todas as empresas se comprometam a criar um “botão de emergência” que possa pausar o desenvolvimento ou fornecimento da tecnologia em caso de perda de controle por parte da empresa.