Gizakien eta roboten gizarte baterantz
Duela 65 urte, Isaac Asimov idazleak robotikarako hiru lege aurkeztu zituen Runaround ipuinean: 1) Robotak ez dio gizakiari kalte egingo, eta saihestuko du gizakia kaltetua izatea; 2) Robotak gizakiak emandako aginduak beteko ditu, lehenengo legearen aurka doanean ezik; eta 3) Robotak bere burua babestuko du, hori ez badoa lehenengo eta bigarren legeen aurka.
Pertsonak eta robotak bizikidetzan irudikatu zituen Asimovek bere zientzia-fikzioko kontakizunetan, eta bizikidetza horretarako beharrezko ikusi zuen robotak lege horien arabera programatzea. Dagoeneko, ordea, ez da hain fikziozkoa mundu hori: hor daude ibilgailu autonomoak, droneak, adinduei eta ezinduei laguntzeko robotak, industrian sartzen ari diren guztiak, eta baita ikasteko gai diren makinak ere.
“Iraultza bat gertatzen ari dela ukaezina da”, dio Elena Lazkano Ortega EHUko Konputazio Zientzia eta Adimen Artifiziala saileko ikertzaileak. Hala ere, ez du hain argi iraultza horrek zer abiadura hartuko duen: “Batzuetan iruditzen zait bertan dagoela, gainera datorkigula, eta beste batzuetan aurrerapenak ikaragarri motel gertatzen direla”. Bat dator Gorka Azkune Galparsoro, adimen artifizialean ikertzailea Deustotech-Deustuko Unibertsitatean: “Adimen artifizialaren ikuspuntutik salto handi bat gertatu da, urte askoan ikusi ez den moduko saltoa. Oso zaila da aurreikustea zenbateraino aldatuko diren gauzak, baina nik uste dut, hemendik ez urte gehiegitara, eragin handia izango duela gure bizimoduan”.
Egoera honen aurrean, Asimoven legeak baino zerbait gehiago beharko da, eta hainbat herrialdetan, AEBn, Txinan, Japonian eta Europar Batasunean, adibidez, hasiak dira gaia jorratzen. Azkuneren ustez, kasu batzuetan dagoeneko beharrezkoak dira legediak. “Adibidez AEBn hainbat estatu ari dira ibilgailu autonomoen inguruko legediak garatzen. Teknologia hori oso heldua da dagoeneko”. Baina, legedietan gehiegi aurreratzeari arriskua ere ikusten dio: “Beldurra ematen dit legediek egin litezkeen garapenak mugatzeak. Prestatzen joan behar da, hori garbi dago, baina ez dakit zenbateraino aurreratu daitekeen”. Bada, gauzak ondo egiteko, Lazkanok beharrezkoa ikusten du eztabaida sakon bat: “Eztabaida horretan parte hartu behar dugu denok; industriak, unibertsitateak eta baita gizarteak ere. Ezin dugu utzi soilik gobernuen eskuetan legedi bat egitea”.
Joan den otsailean, Europako Parlamentuak eskaera egin zion Europako Batzordeari robotikarako eta adimen artifizialerako legeak proposatzeko. Eskaera hori Europako Zuzenbide Aferen Batzordeak iaz ateratako robotikaren lege zibilen inguruko azterketari jarraiki zetorren. Britainia Handian, berriz, BSI Estandar Erakunde Britainiarrak ere iaz atera zituen roboten diseinu etikorako arauak. Asimoven legeen eguneraketa bat bailitzan, hiru puntu orokor azpimarratu dituzte arau horietan ere: 1) Robotak ez dira diseinatu behar bakarrik edo nagusiki gizakiak hiltzeko; 2) Roboten ekintzen arduradunak gizakiak dira, ez robotak; eta 3) Posible izan behar du robot bakoitzaren eta haren ekintzen arduraduna zein den jakitea.
Pertsonen segurtasunaz gain, arduretan jarri dute fokua. Bat dator horretan Lazkano: “Robotak guk diseinatzen ditugu, eta roboten ekintzak ere bai, momentuz. Eta hori horrela den heinean, gu gara arduradunak. Adibidez, ibilgailu autonomoek oraingoz gainbegirale bat behar dute. Kotxea erosten duenak baldintza batzuekin erosiko du, eta istripu bat gertatzen denean, baldintza horiek errespetatu baditu, arduraduna diseinatzailea izango da; eta ez baditu baldintzak errespetatu, erabiltzailea. Ezin diogu trasteari leporatu. Gure burua zuritzea litzateke hori”.
Ikasteko gaitasunak dakarrena
Azkunek dioenez, ordea, gerta liteke beti hain garbi ez egotea. “Askotan pentsatzen da robotak programatu egiten direla gauza bat egiteko. Baina gaur egun robotak ikasteko gai dira, eta etorkizunean are gehiago, ziur aski. Eta ikasteko gaitasunak erabakitzeko autonomia ekar dezake. Orduan, robot horiek beren kasa ikasten doazen neurrian, zein da ikasten dutenaren arduraduna? Azken batean, gugandik ikasten badute, gu izango gara arduradunak, baina ardura hori gizartean oso diluituta gera daiteke”.
Pertsonekin gertatzen denarekin konparatzen du: “Haur batek hasieran ez daki ezer. Gero hiltzaile bihurtzen bada, noren ardura da? Seguru gizarteak hutsegite batzuk egin dituela, edo ingurukoek... Kasu horretan pertsona horri botatzen zaio errua. Orduan, ikusi beharko da... Ikuspegi determinista edo programazio-ikuspegi batetik errazagoa izan daiteke, baina adimen artifiziala doan bidetik, eta ikasketa hartzen ari den indarrarekin, gauza hauek seguruenik ezingo dira hain erraz ebatzi”.
Dena den, adimen artifizialaren ikasteko gaitasuna mugatua da oraindik. “Momentuz datuak irensten dituzte, datu horietan dagoena ikasi, eta orokortzeko gaitasun apur bat baino ez dute” zehaztu du Lazkanok. “Horrela izanda, ematen zaizkien datuak etikoak badira, irteerak ere etikoak izango dira”. Baina, jakina, ematen zaizkien datuak etikoak izatea ere ez da beti erraza izango; adibidez, Interneteko datuak erabiltzean. Horren erakusgarri Microsoften Tay txatbotarekin gertatu zena: Twitteren jarri eta 24 ordutan kendu behar izan zuten komentario arrazistak, sexistak, naziak eta abar egiten hasi zelako. Jakina, twitterreko elkarrizketetatik ikasi zuen.
“Mundu irekiaren arazoa esaten zaio horri” dio Azkunek. “Mundua irekitzen badiegu adimen artifizialei eta uzten badiegu datu guztiak hartzen arazoak sortu litezke. Hori kontrola daiteke, baina noiz arte, nahi badugu adimen hauek gero eta ahaltsuagoak izatea?”. Izan ere, ikasteko gaitasuna handitu ahala, gauzak alda litezke. “Googleren Deep Mind ari da dagoeneko adimen orokor artifizialaz hizketan”, dio Azkunek. Adimen orokor artifizial bat gai izango litzateke bere kasa erabakiak hartzeko. “Gaur egun, adimen artifiziala nahiko kontrolatuta dago, datuen arabera eta erabiltzen duzun ikasketa-teknikaren arabera; baina aurrera goazen neurrian, eta adimen hauek erabakitzeko askatasun gehiago duten neurrian, ez da hain erraza izango ikasi dezaketena kontrolatzea”.
Baina hori, gertatzekotan ere, urrun dagoela argitu du Azkunek: “Azken urteetan aurrerapen handiak izan dira, eta etorkizunera proiektatzen baditugu nahiko mundu desberdina azaldu liteke, baina oraindik ez gaude hain aurreratuta zentzu horretan. Oraindik espezializazio-mailan gaude: baditugu adimen txiki batzuk gauza konkretuak egiten oso onak direnak, baina gizakiak duen orokortasun hori ez da gertu ikusten. Egia da, justu aurten adimen orokorraren inguruan aurrerapen txiki batzuk egin direla. Baina, oraindik ere, oso oinarrizko ikerkuntzan ari gara hor, eta iritsiko da agian, baina ez dakigu”.
Gizakion esku
Lazkanok argi du gizakion esku dagoela robotak etikoak izatea. “Guk ez badizkiegu portaera etikoak erakusten, egiten ditugun robotek ez dute portaera etikoa izango”. Eta ez dugu ahaztu behar zer diren. “Zalantzarik gabe pentsatu behar dugu zer erabilera eman nahi diegun. Baina, tresnak baino ez dira. Hamaika gauza egiteko tresnak, baita hitz egiteko ere, baina tresnak dira”.
Ikuspuntu hori azpimarratu du Azkunek ere. “Kontuan hartu behar dugu, edozein teknologiarekin bezala, alde txarrak izan ditzakeela, eta saiatu behar dugu horiek aurrez ikusten, baina ez dugu horren beldurrik izan behar. Teknologia hau oraindik garatzeko dago, bada pentsa dezagun nola erabili dauzkagun benetako arazoak konpontzeko. Adibidez, adimen artifiziala dagoeneko erabili da azaleko minbizia detektatzeko, eta gizakiak baino hobeto egiten du. Halako beste mila kasu egon litezke. Minbiziaren kontrako terapiak edo medikamentu berriak agian adimen artifizialak sortu ditzake, edo haien eragina aurreikusi. Gauza horietan pentsatu behar genuke. Nola erabili ditzakegun orain ditugun botere berri hauek ditugun arazoei aurre egiteko. Baina, noski, beti ere pentsatu behar da hau bera ez zaigula arazo bihurtu behar".
Adibidez, eztabaidagai izaten ari da robotekin lotura emozionalak sortzea arazo bihur ote daitekeen eztabaidagai izaten ari da, adibidez. Lazkanoren ustez, hori saihestezina da: “Fetitxismoa berezkoa dugu. Objektuekin lotura emozionalak sortzeko joera dugu, eta robotekin berdin”. Eta askotan onerako izan daitekeela azaldu du Azkunek: “Hainbat ikerketek erakutsi dute ume autistek, pertsona adinduek eta beste batzuek robotekiko dituzten lotura emozionalak onuragarriak direla haientzat. Bakarrik bizi diren adinduek, adibidez, asko estimatzen dute etxean robot bat edukitzea, eta, nahiz eta gaur egun oraindik oso mugatuak diren, ikusi da robot horiekiko lotura emozional bat sortzen dela, eta lotura hori haientzat ona dela. Seguruago sentitzen dira etxean, emozionalki hobeto daude, eta abar. Beste kasu batzuetan arazo izan daiteke, baina onurak ere baditu”.
Eta kezka eragiten duen beste arazo bat, eta gertuen egon daitekeenetakoa, robotek pertsonei lanpostuak kentzearena da. “Lanpostu batzuk galdu egingo dira, baina agian langile horiek beste lan batzuk egin ahal izango dituzte, eta lanbide berriak ere sortuko dituzte robotek” aurreikusten du Lazkanok. “Hori zenbateraino izango den bortitza, ez dakit. Beldur hori beste iraultza industrialetan ere sartu izan digute”.
Bat dator Azkune: “Hau askotan gertatu da gure historian, eta nik uste dut pixkanaka topatuko dugula gure lekua. Beti egongo da trantsizio-fase bat, eta trantsizio horretan egongo da jendea gaizki pasako duena. Baina ez dezagun pentsa jende hori, beti esaten den moduan, gutxien formatutako jendea izango denik. Nik ez dut inondik inora baztertzen adimen artifiziala teoriak sortzeko gai izatea, eta probak eta esperimentuak eta abar planteatzeko gai izatea, eta kasu horretan, zientzialariei lan asko kentzea. Ez dakigu aldaketak zein zentzutan etorriko diren, eta denoi tokatuko zaigu aldaketa horietara egokitzea”.
“Eta iristen bada gizarte bat non dena automatizatuta dagoen, eta gizakiak lanik egin behar ez duen, ez zait zerbait negatiboa iruditzen” gehitu du Azkunek. “Beste gizarte-mota batera eboluzionatu beharko dugu”.
Pertsonen eta roboten gizarte bat
Balizko gizarte hori pertsonen eta roboten gizarte bat izango litzateke. Lazkanoren ustez, litekeena da hamar bat urte barru robotak etxeetan egotea, baina hortik robotak gizartearen parte izatera koska bat dago. “Etorriko da agian. Gako garrantzitsuenetako bat guk elkarrizketarako daukagun gaitasuna lortzea litzateke. Eta badira elkarrizketa koherentea minutu pare batez mantentzeko gai diren makinak, baina berehala konturatzen zara makina batekin ari zarela. Hori lortu arte, makina bat izango duzu etxean, ez lagun bat edo dena delakoa”.
Ikusi beharko da robotak edo adimen artifizialak zein mailatara iristen diren. “Nik argi daukat gizakien mailara iristen badira, edo gainditzen badute, berdintzat hartu beharko direla, ardura legal eta etikoei dagokionez. Robot batek hilketa bat egiten badu, pertsona bat bezala epaitu beharko da, edo antzeko mekanismoekin. Onartzen badugu erabakitzeko askatasuna dutela eta ikasteko gaitasuna dutela eta abar, berdintzat jo beharko ditugu, zentzu horretan. Gakoa da zer mailatako adimena lortzen den. Horren arabera tratatu beharko dira. Gaur egun ere, animaliek ez dute gizakien trataera bera, ume batek eta heldu batek ere ez. Galdera asko sortuko dira, eta lan asko egin beharko da; gertatzen bada”.
Zu idazle
Zientzia aldizkaria
