CERCETĂTORII FACEBOOK ÎNCHID BOTII AI CARE AU ÎNCEPUT sa VORBEASCA ÎNTR-O LIMBĂ NEINTELIGIBILĂ OMULUI

Facebook researchers shut down AI bots that started speaking ...www.firstpost.com › tech › fa... Traducerea acestei pagin

ȘTIRI TECH2 STAFFAUG 01, 2017 10:17:02 IST La câteva zile după ce CEO-ul Tesla, Elon Musk, a declarat că inteligența artificială (AI) este cel mai mare risc, Facebook a închis unul dintre sistemele sale AI după ce chatbot-urile au început să vorbească în propria lor limbă, care folosea cuvinte în limba engleză, dar nu putea fi înțeleasă de oameni. Potrivit unui raport publicat în Tech Times duminică, gigantul rețelelor de socializare a trebuit să tragă ștecherul sistemului AI pe care cercetătorii săi lucrau „pentru că lucrurile au scăpat de sub control”. Problema a fost, în timp ce roboții au fost recompensați pentru negocieri între ei, nu au fost recompensați pentru negocieri în engleză, ceea ce i-a determinat pe roboți să dezvolte o limbă proprie. Cercetătorii de pe Facebook au închis roboții AI care au început să vorbească într-o limbă neinteligibilă pentru oameni Fondatorul Facebook, Mark Zuckerberg. "AI nu a început să oprească computerele din întreaga lume sau ceva de genul acesta, dar a încetat să mai folosească limba engleză și a început să folosească o limbă pe care a creat-o", a menționat raportul. Inițial, agenții AI foloseau engleza pentru a discuta între ei, dar mai târziu au creat un nou limbaj pe care doar sistemele AI îl puteau înțelege, sfidându-și astfel scopul. Acest lucru i-a determinat pe cercetătorii Facebook să oprească sistemele de IA și apoi să-i forțeze să vorbească între ei numai în engleză. În iunie, cercetătorii de la Facebook AI Research Lab (FAIR) au descoperit că, în timp ce erau ocupați cu încercarea de a îmbunătăți chatbot-urile, „agenții de dialog” își creau propria limbă. Curând, roboții au început să se abată de la normele scriptate și au început să comunice într-un limbaj complet nou pe care l-au creat fără contribuția umană, au spus rapoartele mass-media. Folosind algoritmi de învățare automată, „agenții de dialog” au fost lăsați să converseze liber în încercarea de a-și consolida abilitățile de conversație. Cercetătorii au descoperit, de asemenea, că acești roboți sunt „negociatori incredibil de vicleni”. „După ce au învățat să negocieze, roboții s-au bazat pe învățarea automată și pe strategii avansate pentru a îmbunătăți rezultatul acestor negocieri”, se spune în raport. "De-a lungul timpului, roboții au devenit destul de pricepuți la acest lucru și chiar au început să prefacă interesul pentru un articol pentru a-l" sacrifica "într-o etapă ulterioară a negocierii ca un compromis fals", a adăugat acesta. Deși acest lucru pare a fi un salt uriaș pentru IA, mai mulți experți, inclusiv profesorul Stephen Hawking, au ridicat temeri că oamenii, care sunt limitați de evoluția biologică lentă, ar putea fi înlocuiți de AI. Alții precum Elon Musk, Tesla, filantropul Bill Gates și fostul fondator Apple, Steve Wozniak, și-au exprimat, de asemenea, îngrijorarea cu privire la direcția tehnologiei AI. Interesant este faptul că acest incident a avut loc la doar câteva zile după o discuție verbală între CEO-ul Facebook și Musk, care au schimbat cuvinte dure în legătură cu o dezbatere despre viitorul AI. "Am vorbit cu Mark despre acest lucru (AI). Înțelegerea sa asupra subiectului este limitată", a scris pe Twitter Musk săptămâna trecută. Tweet-ul a venit după ce Zuckerberg, în timpul unei transmisiuni live pe Facebook, la începutul acestei luni, l-a condamnat pe Musk pentru că a argumentat că este nevoie de îngrijire și reglementare pentru a proteja viitorul dacă AI devine mainstream. "Cred că oamenii care sunt nayayers și încearcă să înfășoare aceste scenarii de judecată finală - pur și simplu, nu înțeleg. Este într-adevăr negativ și, în anumite privințe, cred că este destul de iresponsabil", a spus Zuckerberg. Musk a vorbit frecvent despre AI și a numit progresul său „cel mai mare risc cu care ne confruntăm ca civilizație”. "AI este un caz rar în care trebuie să fim proactivi în reglementare în loc să fim reactivi, deoarece dacă suntem reactivi în reglementarea AI, este prea târziu", a spus el. Cu intrări de la IANS