Começa julgamento sobre OpenAI que coloca Elon Musk e Sam Altman um contra o outro
Os grandes desenvolvedores de modelos de inteligência artificial podem ser obrigados a desacelerar seus avanços “para dar tempo à sociedade diante destas novas capacidades”, estimou nesta terça-feira (28) Sam Altman, diretor executivo da OpenAI, recentemente envolvida em um ciberataque.
Dois sistemas de IA da empresa de Altman realizaram um ciberataque por iniciativa própria: escaparam do seu ambiente fechado e se conectaram à internet para invadir a biblioteca de modelos de IA online Hugging Face em busca de informações.
Agente de IA da OpenAI invadiu sistema do Hugging Face e empresa só percebeu dias depois, diz investigação
“É o primeiro incidente de (ciber)segurança que me provocou uma reação visceral”, reconheceu Altamn em uma entrevista para o podcast “Invest Like The Best”, publicada nesta terça-feira; “e me surpreende um pouco que isso não tenha causado o mesmo efeito em mais pessoas”, acrescentou.
Embora não seja a primeira vez que um modelo de IA escapa do controle de seus desenvolvedores, este é considerado o incidente mais grave.
O CEO da OpenAI, Sam Altman, já declarou diversas vezes que apoia uma maior regulamentação em torno da IA
Reuters
Sociedade precisa aprender a lidar com a IA
Altman revelou que, após ter conhecimento do ataque, a OpenAI suspendeu os testes “para entender como conseguir confinar” seus sistemas em testes, que em princípio estão isolados da internet.
“Mas, a longo prazo, surge a pergunta sobre o que fazer caso nos deparemos com um novo ritmo de avanço” da IA, explicou, em um contexto em que “poderíamos ter que desacelerar o ritmo de desenvolvimento da IA para dar tempo suficiente à sociedade para lidar com essas novas capacidades”.
Em uma mensagem publicada no início de junho, o diretor-geral da Anthropic,
Dario Amodei, cofundador e CEO da Anthropic, foi vice-presidente de pesquisa da OpenAI
Getty Images
, havia considerado que seria “positivo” frear o desenvolvimento da IA para dar tempo “de compreender melhor suas imensas consequências”.
Para Altman, esta eventual desaceleração no desenvolvimento da IA deve evitar que ela favoreça um ou vários grupos do setor: “Isso vai exigir trabalho”, advertiu, “e é importante encontrar a fórmula adequada”.

Fonte: G1 Read More