Analysis of information sources in references of the Wikipedia article "Risco existencial da inteligência artificial geral" in Portuguese language version.
O A2C aprende a usar o botão para desativar o mecanismo de interrupção.
Nada impede que sistemas de autoaperfeiçoamento suficientemente inteligentes otimizem seus mecanismos de recompensa a fim de otimizar a realização de sua meta atual e, no processo, cometam um erro que leve à corrupção de suas funções de recompensa.
A ONU também poderia promover a regulamentação da inteligência artificial para garantir que ela esteja alinhada com os valores globais compartilhados.
Stephen Hawking, Elon Musk e dezenas de outros grandes cientistas e líderes tecnológicos assinaram uma carta alertando sobre os possíveis perigos do desenvolvimento da inteligência artificial (IA).
É claro que se poderia tentar proibir totalmente os computadores superinteligentes. Mas "a vantagem competitiva - econômica, militar e até artística - de cada avanço na automação é tão convincente", escreveu Vernor Vinge, matemático e autor de ficção científica, "que aprovar leis ou ter costumes que proíbam essas coisas apenas garante que alguém o fará".
Por todos esses motivos, a verificação de um tratado global de renúncia, ou mesmo de um tratado limitado ao desenvolvimento de armas relacionadas à IA, não tem chance... (Por motivos diferentes dos nossos, o Instituto de Pesquisa de Inteligência de Máquinas) considera a renúncia (IAG) inviável...
É fantasioso sugerir que o desenvolvimento e a implantação acelerados de tecnologias que, em conjunto, são consideradas IA serão interrompidos ou limitados, seja por regulamentação ou mesmo por legislação nacional.
A ONU também poderia promover a regulamentação da inteligência artificial para garantir que ela esteja alinhada com os valores globais compartilhados.
'Essa inteligência artificial não é uma criatura basicamente simpática que tem um forte desejo por clipes de papel e que, desde que esteja satisfeita por poder fabricar muitos clipes de papel em outro lugar, é capaz de interagir com você de forma descontraída e despreocupada, que pode ser simpática com você', disse Yudkowsky. 'Imagine uma máquina do tempo que envia informações para o passado sobre qual escolha sempre leva ao número máximo de clipes de papel no futuro, e essa escolha é então emitida - isso é o que é um maximizador de clipes de papel'..
Stephen Hawking, Elon Musk e dezenas de outros grandes cientistas e líderes tecnológicos assinaram uma carta alertando sobre os possíveis perigos do desenvolvimento da inteligência artificial (IA).
A ONU também poderia promover a regulamentação da inteligência artificial para garantir que ela esteja alinhada com os valores globais compartilhados.
Por todos esses motivos, a verificação de um tratado global de renúncia, ou mesmo de um tratado limitado ao desenvolvimento de armas relacionadas à IA, não tem chance... (Por motivos diferentes dos nossos, o Instituto de Pesquisa de Inteligência de Máquinas) considera a renúncia (IAG) inviável...
É fantasioso sugerir que o desenvolvimento e a implantação acelerados de tecnologias que, em conjunto, são consideradas IA serão interrompidos ou limitados, seja por regulamentação ou mesmo por legislação nacional.
É claro que se poderia tentar proibir totalmente os computadores superinteligentes. Mas "a vantagem competitiva - econômica, militar e até artística - de cada avanço na automação é tão convincente", escreveu Vernor Vinge, matemático e autor de ficção científica, "que aprovar leis ou ter costumes que proíbam essas coisas apenas garante que alguém o fará".