Израелският историк Ювал Ноа Харари, автор на „Sapiens. Кратка история на човечеството“, „Homo Deus: Кратка история на бъдещето“, „21 урока за 21 век“ и още няколко книги, е разтревожен от напредъка на изкуствения интелект. Той смята AI за опасен конкурент на човешкото майсторство в разказването на истории.
„Това е особено сериозна заплаха за демокрациите, повече отколкото за авторитарните режими, защото демокрациите зависят от обществения разговор“, казва Харари в обширно интервю за британската медия The Telegraph.
„Демокрацията е основно разговор. Хората си говорят. Ако AI поеме разговора, с демокрацията е свършено“, казва той.
Миналия месец Харари се присъедини към хилядите експерти, подписали писмото, призоваващо за мораториум върху изследванията на инструменти като Chat GPT – AI моделът, който може да взаимодейства с хората в обезпокоително нюансиран, творчески текст.
Харари предупреждава, че „това е първата технология в историята, която създава истории“. По думите му колективната вяра в „историите“ е подхранвала господството на човечеството на Земята, а сега AI също има тази сила, доказвайки, че потенциалът на технологията както за добро, така и за зло, някога смятан за далечен и теоретичен, сега е непосредствен и реален.
Новото поколение изкуствен интелект не се ограничава до разпространение на съдържание, което хората произвеждат. Сам може да създава съдържание. Опитайте се да си представите какво означава да живееш в свят, в който повечето текстове и мелодии, а по-късно и телевизионни сериали и изображения, са създадени от нечовешки интелект. Ние просто не разбираме какво означава това, какви могат да бъдат последствията от това, че AI превземе културата?“ алармира Харари.
Тривиални примери вече има. Миналата седмица германско издание беше критикувано за публикуването на материал, който изглеждаше като ексклузивно интервю с Михаел Шумахер, а текстът всъщност беше генериран от AI, имитиращ парализирания бивш пилот.
Харари предполага, че изкуственият интелект скоро ще отиде много по-далеч.
В интервюто за The Telegraph историкът предупреждава и за ефекта, който технологията може да има, ако бъде злонамерено пусната на бойното поле от тоталитарните режими.
Разочарован, че смята, че светът не вижда опасността от ИИ като него, Харари добавя: „Трябва да разберем, че AI е първата технология в историята, която може да взема решения сама. Това не е прогноза за бъдещето. Това вече се случва.”
Харари предупреждава също така, че властта се сменя за първи път в историята. „Изобретихме нещо, което ни лишава от власт. И това се случва толкова бързо, че повечето хора дори не разбират какво се случва. Трябва да сме сигурни, че изкуственият интелект взема добри решения за живота ни. Това е нещо, от чието разрешаване сме много далеч.”
Израелският историк се застъпва за регулирането на AI инструментите и сравнява необходимостта от установяване на стандарти с фармацията. „Една фармацевтична компания не може да пусне ново лекарство на пазара, без първо да премине през дълъг регулаторен процес. Наистина е странно и страшно, че корпорациите могат да пуснат изключително мощни AI инструменти в публичната сфера без никакви подобни мерки за сигурност“, казва Харари.
Той предупреждава, че е задача на правителствата да осигурят тези мерки: „С цялото ми уважение към Илон Мъск и Зукърбърг или другите ръководители на големите технологични компании, те не са избрани от никого, те не представляват никого, освен своите акционери, и няма причина да им се доверяваме.“
0 Коментара