Uma Nova Era para a Inteligência Artificial
Em uma reunião histórica, o presidente dos Estados Unidos, Donald Trump, reuniu executivos das principais empresas de inteligência artificial na Casa Branca para discutir a segurança da inteligência artificial e estabelecer um compromisso conjunto para fortalecer a governança e a segurança da tecnologia.
Um Acordo Histórico
O acordo estabelece quatro camadas de controle para modelos de inteligência artificial, incluindo mecanismos internos de controle, auditorias independentes e maior participação dos conselhos de administração na supervisão de sistemas considerados avançados.
Controle Interno
Cada empresa participante deve criar mecanismos internos capazes de acompanhar as capacidades e o comportamento dos modelos durante as etapas de treinamento e utilização, considerando riscos relacionados à cibersegurança, biossegurança e ameaças químicas.
Autorias Independentes
As empresas devem contratar auditores ou avaliadores independentes para examinar se os mecanismos utilizados para monitorar os modelos estão operando conforme esperado, aumentando a participação de terceiros na avaliação da segurança da inteligência artificial.
Participação dos Conselhos
Os conselhos de administração de cada empresa participante devem criar um comitê independente para acompanhar os mecanismos de segurança, receber relatórios das equipes responsáveis pelos controles internos e analisar resultados apresentados por avaliadores externos.
Uma Nova Abordagem para a Segurança da Inteligência Artificial
Com a criação de estruturas independentes ligadas diretamente aos conselhos de administração, as empresas que utilizam inteligência artificial em escala devem avaliar não somente aquilo que a tecnologia consegue fazer, mas quais limites, registros e responsabilidades existem ao redor de sua utilização.
Um Passo em Direção à Autorregulação
Embora o acordo não elimine a possibilidade de regulamentações obrigatórias no futuro, as empresas participantes afirmaram que pretendem adotar os controles independentemente de uma futura obrigação legal, demonstrando um movimento de autorregulação entre as empresas.
Uma Nova Era para a Governança da Inteligência Artificial
Com a segurança da inteligência artificial passando a fazer parte da arquitetura de governança tecnológica das organizações, os CIOs, CISOs e conselhos de administração devem avaliar não somente a capacidade tecnológica, mas também os mecanismos de controle e responsabilidade ao redor da utilização da tecnologia.
Uma Nova Dimensão para a Inteligência Artificial
A discussão deixa de envolver apenas a qualidade das respostas produzidas por um modelo e passa a incluir aquilo que ele efetivamente consegue executar em ambientes reais, aproximando inteligência artificial e cibersegurança de forma definitiva dentro das organizações.
Uma Nova Abordagem para a Governança da Inteligência Artificial
Com a criação de estruturas independentes ligadas diretamente aos conselhos de administração, as empresas que utilizam inteligência artificial em escala devem avaliar não somente aquilo que a tecnologia consegue fazer, mas quais limites, registros e responsabilidades existem ao redor de sua utilização.
Um Passo em Direção à Autorregulação
Embora o acordo não elimine a possibilidade de regulamentações obrigatórias no futuro, as empresas participantes afirmaram que pretendem adotar os controles independentemente de uma futura obrigação legal, demonstrando um movimento de autorregulação entre as empresas.
