Муск захтијева АИ паузу

Више од 1.100 истраживача АИ и других футуриста потписало је отворено писмо у којем захтијевају шестомјесечни мораториј на ” гигантске АИ експерименте ” откако је непрофитни Институт за будућност живота прошле седмице објавио текст.

Значајни потписници писма су извршни директор Тесле Елон Муск, суоснивач Апплеа Стеве Wозниак и трансхуманистички историчар Yувал Ноах Харари.

У преписци се упозорава да „ системи вештачке интелигенције са интелигенцијом која се натјече међу људима могу представљати дубоке ризике за друштво и човечанство “. Такођер инсистира на томе да технологију која брзо напредује треба „ планирати и управљати с одговарајућом пажњом и ресурсима “, умјесто да се дозволи „ трци ван контроле да развије и имплементира све моћније дигиталне умове од којих нико – чак ни њихови креатори – може разумјети, предвидјети или поуздано контролисати .”

Умјесто да ризикују да изгубе контролу над технологијом која би потенцијално окончала цивилизацију, дионици у пољу умјетне интелигенције требали би ” заједно развити и имплементирати скуп заједничких сигурносних протокола за напредни дизајн и развој АИ који су под ригорозном ревизијом и надгледани од стране независних вањских стручњака” , институт предлаже паузирање развоја док се ти протоколи не успоставе. Циљ би требала бити сигурност “ изван разумне сумње ”, а не иновација по сваку цијену, каже се.

„ Моћне АИ системе треба развијати тек када будемо сигурни да ће њихови ефекти бити позитивни и да ће се њихови ризици моћи управљати “, наставља се у писму, док би програмери требали преусмјерити своју енергију на „ да данашње моћне најсавременије системе учине више тачан, сигуран, разумљив, транспарентан, робустан, усклађен, поуздан и одан .”

Ако програмери не могу сами собом да управљају, владе се морају укључити, стварајући регулаторна тијела способна да обуздају одбјегле системе, финансирају сигурносна истраживања и ублаже економски ударац када суперинтелигентни системи почну озбиљно гутати људске послове, наводи се у писму.

Муск је дуго упозоравао на опасности умјетне интелигенције, предвиђајући у 2020. да ће сингуларност – тачка у којој интелигенција машина помрачује људску – доћи до 2025. и да људи ризикују да заврше као кућни љубимци суперкомпјутера. Првобитно је предложио Неуралинк мождано-компјутерски интерфејс као алат који ће човјечанству дати конкурентску предност у односу на АИ.

Милијардер је био и један од оснивача ОпенАИ-а, компаније која стоји иза револуционарног великог језичког модела ЦхатГПТ. Међутим, он је напустио компанију 2018. године, одбацивши је као подухват за стварање профита који је кооптирао Мицрософт. Мусков ривал (и оснивач Мицрософта) Билл Гатес, чије име није било у отвореном писму од сриједе, прихватио је ОпенАИ, недавно изјавивши да је „ доба умјетне интелигенције почело. ” ЦхатГПТ сада покреће Мицрософтов Бинг претраживач.

Извор:
ЛОГИЧНО