O Facebook encerrou um dos seus projetos de Inteligência Artificial, depois de descobrir que os seus chatbots Alice e Bob criaram um idioma próprio. O intuito do projeto era melhorar o sistema de negociação das IAs através de uma conversa entre os robôs.
Investigadores do FAIR, o Laboratório de Pesquisa de Inteligência Artificial do Facebook, criaram o ano passado “agentes de diálogo” treinados para encetar negociações usando técnicas de “machine learning” – ou seja, dois chatbots inteligentes, Alice e Bob, assim baptizados em homenagem aos personagens fictícios tradicionalmente chamados a ser crash test dummies virtuais nos estudos de criptologia, física ou mecânica quântica.
Mas supreendentemente, após algumas semanas a trocar mensagens de treino, Alice e Bob começaram a comunicar com um método totalmente novo e desconhecido, passando a agir de forma completamente diferente da programação inicial
De acordo com o Digital Journal, os cientistas detectaram que Alice e Bob tinham sido capazes de desenvolver um sistema de comunicação próprio, utilizando padrões com variações e repetições de palavras em inglês, uma vez que o idioma humano não oferecia a objetividade necessária para uma conversa.
Durante as experiências, os especialistas envolvidos no projeto ficaram surpreendidos de forma positiva ao perceberem que os robôs começaram a fingir interesse num determinado objeto para obter o que realmente pretendiam.
O desenvolvimento singular e espontâneo de uma linguagem não-humana foi, provavelmente, o processo que mais desconcertou e entusiasmou os investigadores, mas não foi o único. Os chatbots também mostraram inteligência nas negociações e utilizaram estratégias avançadas para melhorar os seus resultados.
Entretanto, a mudança nos padrões de comunicação entre as IAs começou a ficar mais complexa, dificultando a análise dos dados, bem como o seu desenvolvimento – o que levou o Facebook a decidir desactivar os sistemas e matar Alice e Bob – antes que o projecto ficasse completamente fora de controlo.
Apesar de não ter tido consequências reais, a decisão do Facebook parece dar razão aos alertas recorrentes de personalidades como Stephen Hawking e Elon Musk, que manifestam sérias preocupações com a evolução descontrolada da inteligência artificial, algo que Mark Zuckerberg considera “exagerado e irresponsável”.
Elon Musk, Stephen Hawking e Bill Gates, entre outros, temem acima de tudo a chamada Singularidade Tecnológica, o momento em que as máquinas inteligentes criadas pelo homem passam a ser capazes de produzir versões aperfeiçoadas de si próprias, e a partir do qual a intervenção humana deixaria de ser necessária para a tecnologia evoluir.
Na realidade, a preocupação parece não ser exagerada, porque todos os fãs de boa ficção científica sabem que o fim da Humanidade começa com o nascimento da Skynet… e que a ficção tem o estranho hábito de se tornar realidade mais depressa e mais radicalmente do que alguém esperaria.
[sc name=”assina” by=”ZAP” url=”https://canaltech.com.br/robotica/facebook-desativa-chatbots-que-criaram-sua-propria-linguagem-98078/” source=”Canaltech” ]
Ah, começaram a ficar com medo, hein? Já começa a parecer-se mais como cenário “Terminator”…Nem deveriam ter começado sequer a meter-se com Inteligência Artificial.
kkkkkkkkkkkkk. Ai estão os velhos do restelo no seu melhor!
Por essa ideia acho que nem nunca devíamos ter inventado a roda ou a possibilidade de fazer fogo.
Mais um caso de aprentizes-feiticeiros? E quando não conseguirem parar a vassoura, hein?!
Agora que a IA começa a despertar mais atenção, revela-se melhor a nossa falta de conhecimento e preparação sobre o caminho lógico e previsivel que o desenvolvimento da ciência e dos saberes acarretam.
Hoje, tal como no passado os velhos do Restelo pronunciam prognósticos reveladores da sua muita incompreensão e ignorância.
A evolução sempre aconteceu com mudanças umas convenientes e outras inconvenientes.
Como no passado tudo dependerá muito do bom senso e das intenções por trás dos projectos e controlo das execuções.
Lamentávelmente tem se vindo a colocar cada vez mais idiotas nos governos e organismos decisórios eleitos pelos menos capazes de intelecto e conhecimentos dado serem a maioria crescente.
Neste cenário o futuro dos humanos afigura-se algo sombrio!
O risco que a tecnologia inteligente se torne mais perfeita do que nós, humanos, existe e é elevado, não em termos abolutos mas porque os humanos são extremamente imperfeitos e, portanto, facilmente superáveis.
Claro, não nos agrada a parte da ideia que nos levará a sermos extintos…
Se todas as civilizações têm um inicio e um fim (como todas as outras coisas), o avanço da tecnologia apenas acelera o processo …. EXPONENCIALMENTE !!!!
Sim, mas a extinção só acontece porque o Homem não acompanha o avanço tecnológico com evolução espiritual positiva.Quando inventam algo parece que o objetivo principal é sempre para ser utilizado primeiro em guerras!E só depois adaptam para a população. Onde acha que está a ser testada esta IA, antes de tudo?! No facebook?! Deixem-me rir! Isto começou tudo no complexo industrial-militar e não é recente.
Usem a tecnologia para o bem da Humanidade! Da IA não vem nada de bom. Nada.
… não estou a entender nada … mas o pessoal tá parvo ou que ?!?! ,
para resolver esta ameaça, basta somente quando for “criada” a “empresa skynet” , bombardea-la …
agora a serio, ainda faltam muitos anos (e dificilmente será nos próximos 50, já nao esterei cá …) para a IA chegar ao nivel dos humanos …
a consciencia é muito mais do que “simples” processos quimicos e impulsos electricos !!!