Публикуваме изказването на проф. д-р Маргарита Пешева, направено по време на състоялата се на 4 май т. г. в Аулата на СУ конференция "Свободата като концепция в испаноезичната култура и свободата на медиите днес". Конференцията бе под патронажа на вицепрезидента Илияна Йотова и бе организирана от Сдружението на испаноговорещите журналисти в България (СИЖБ) и Катедра "Испанистика" в СУ по повод Световния ден на свободата на печата 3 май и 20-годишнината от основаването на СИЖБ.

Изкуственият интелект  днес  много  успешно  пише  научни статии, рисува картини, прави сложни счетоводни операции, кара автомобили, побеждава на световни състезания по шах, получава награди в конкурси по фотография, композира  музика,  участва като пълноправен член в бордовете на редица големи корпорации. Изключително високите темпове в неговото развитие  предизвикват някои  основателни тревоги.

Наскоро,  някои от  най-известните  имена  в   областта на ай ти технологиите като  Илън Мъск, Стив Возняк, американският онлайн предприемач Еван Шарп, световноизвестният учен и писател  Ювал Ноа Харари  публикуваха Отворено писмо  към целия свят, с което поискаха  шестмесечна пауза в разработването на мащабни проекти с ИИ,  по-мощни от версията GPT-4.  В него  те казват, че: ” генеративният ИИ  може  да донесе значителна промяна в историята на живота на Земята, и  той следва да бъде планиран и управляван със съответното внимание и ресурси". Това се отнася  и  до сферата на  медиите и журналистиката.

                                                        Как започна всичко

"Лос Анджелис таймс" е първият вестник в света, който през 2014г. публикува информация за  земетресение в Калифорния, създадена чрез алгоритъм/робот. Програмистът и журналист Кен Скуенке създава алгоритъм, който автоматично  създава  кратка статия,  в случай на  земетресение или  друга катастрофа. Написването на тази "робоновина" отнема едва  три минути, преди тя да се появи в Мрежата. Време, абсолютно немислимо за един човек - журналист, който трябва да извърши поредица от операции, преди да седне и напише горещата новина за случилото се  земетресение. Тази робоновина  звучи съвсем нормално, като написана от  истински репортер. Тя съдържа полезна информация за часа на земетресението, силата на  взрива, като се позовава на данните от "Американския институт за сеизмологични проучвания". Новината е неразличима от другите новини,  които създават хора-журналисти.

Оттук започва летоброенето на  епохата  на  съвременната  робожурналистика,   чиито продукти се създават от алгоритми, а не от хора. Тази генерална промяна  сериозно поставя под въпрос  свободното слово на човека- журналист, който все повече се чувства заплашен от изключително бързото навлизане  на алгоритмите в областта на  журналистиката, която от векове се  разглежда като привилегирована зона за човешкия творчески гений, пазител на  правилните действия и морал на обществото. Но ако алгоритмите (много скоро) успеят  да  превземат  почти цялата територия на журналистиката, и  изтласкат човека-журналист  в периферията на тази   много  важна професия,  дали свободата на словото в медиите   наистина ще изгуби  човешката си  територия и смисъл?

            В близко време,  когато алгоритмите  придобият емоционална интелигентност, тогава кому ще принадлежи свободното слово в журналистиката- на човека като традиционен  създател на тази професия и основен „носител” на  най-големите й ценности? Или на вездесъщия   алгоритъм, който мълниеносно пише статии, лансира измамни съобщения, манипулира събития, и  в наши дни почти изцяло покрива  отколешната  фраза: ”Човешко е да се греши”. Днес е наложително тя  коренно да се преобразува, примерно  като: „Алгоритмично е да се греши”. Поне доколкото алгоритмите  ( в журналистиката и други  сфери) вече  грешат и мамят не по- малко от човека.

                                            Измамната онлайн журналистика

Изкуственият интелект  вече генерира  не само измислен текст, но и фалшифицирано видео и аудио за изключително кратко време, при това на много ниска цена. В редица новинарски сайтове, които генерират съдържание от чатботове с изкуствен интелект се публикуват изцяло неверни новини- например за смъртта на американския президент Джо Байдън, изкуствено генерирани изображения за недействителен арест на  Доналд Тръмп, фалшиви новини за смъртта на хиляди войници във войната в Украйна и др. Това са сайтове с ниско качество, които анонимно се управляват, и  се издържат от  автоматизирани реклами, които се купуват и продават  чрез алгоритми, или  без намесата на човека.

Проблемът е  как потребителите  ще  различават  истинската журналистика- от псевдожурналистиката, генерирана чрез ИИ, и основана  най-вече  върху измамата? В тази връзка, главният изпълнителен директор на News Guard  Гордън Кровиц , който е бивш издател на Wall Street Journal   казва,  че : „Използването на  модели на изкуствен интелект, известни с измислянето на факти за създаването на това, което само изглежда  като новинарски сайтове, е измама, маскирана като журналистика“.

                                             Високите темпове на развитие

Според някои изчисления, ако един репортер за определено време може да произведе 300 дописки, за същото време един  алгоритъм/робот може да произведе 4400 дописки. Алгоритъмът/робот  може да произведе до 2000 новини в секунда – рекорд, немислим за което и да е човешко същество.

През 2013г. алгоритмите/роботите са написали 350 милиона новини, а през 2014 г. те вече са 1 милиард. Днес компютърно генерираните новини вече са няколко милиарда годишно. Според Кристиан Хамънд, професор по компютърни науки и журналистика до  2025г. 90% от  новините в медиите ще бъдат  компютърно  генерирани.

До 2050г. броят на умните  робо/алгоритми вероятно ще надхвърли 10 милиарда. А само до 10 години алгоритмите не само ефективно ще общуват с хората, но  вероятно  ще станат и  емоционално интелигентни. Това ще  се случи  чрез иновациите в сферата на изкуствения интелект.  Неслучайно ЕК   разглежда  проблема за социалните ефекти от въвеждането на  изкуствения интелект , който освобождава човешки потенциал в редица сфери. Вече се  обсъжда  известно  намаляване на работната седмица, за да се запазят необходимите  работни места - като противодействие на натиска, който изкуственият интелект оказва върху хората в редица производствени отрасли,  както  и  в областта на медиите и журналистиката. IBM наскоро оповести, че  редица работни позиции  вече ще се  заемат  от алгоритми, а не от хора.

                                                               Примерите

Първи пример. Хората много дълго сочат играта на шах като най-доброто доказателство  за човешкото превъзходство над изкуствения интелект. До 10 февруари 1997г. когато  изкуственият  интелект "Дийп Блу" на Ай Би Ем  победи световния шампион по шахмат Гари Каспаров, и фактически опроверга тази  претенция за човешко съвършенство.

Втори  пример. Дейвид Коуп, професор по музикознание в Калифорнийския университет в Санта Крус разработва компютърна програма EMI ( Експерименти по музикален интелект ) , която може да композира  хорали в стила на Йохан Себастиан Бах. Създаването на такъв специализиран изкуствен интелект отнема 7 години, но EMI  още от своето "раждане" успява да композира 5 000 хорала в стила на Бах само за един ден. След което създава  музика в стила на Бетховен, Шопен, Рахманинов , Стравински. ЕMI "издава и своя първи  албум "Класическа музика, композирана от компютър", и когато хората слушат нейните композиции, без да знаят, че това е музика , създадена  от алгоритъм, често я хвалят, че тя "има богата душевност" и "емоционално въздействие".

Музиката, създавана от Homo Deus  на практика  е неразпознаваема от музиката, създавана от Homo Sapiens в продължение на векове. Ето защо не бива да се учудваме, че фотография, създадена от алгоритъм  наскоро получи  висока награда. В този случай фотографът етично отказа наградата, но дали винаги ще бъде така? И как ще различаваме произведенията, създадени от естествения,  и от изкуствения интелект, след като те,  по същество, са неразличими?

                                         Бъдещето под заплаха

Ювал Ноа Харари, професор в Еврейския университет в Йерусалим  наскоро публикува тревожни размисли относно големите опасности, които ИИ носи със себе си.  За него ИИ е първата технология в историята, която сама може да взема решения. „Новото поколение изкуствен интелект не само разпространява съдържанието, което хората произвеждат, но може и само да произвежда съдържание. Представете си какво би означавало да живеете в свят, в който повечето текстове, мелодии, ТВ сериали и образи са създадени от нечовешки интелект. Ние просто не разбираме какво означава това. Какви биха били последиците от това изкуственият интелект да превземе бъдещето?”

 Според Харари, това е заплаха повече за демокрациите, отколкото за авторитарните режими, тъй като демокрациите разчитат на обществения разговор. Демокрацията на практика е разговор - хора, които разговарят един с друг. Но ако разговорът бъде превзет от изкуствения интелект, с демокрацията е свършено- казва той. „Днес  силата и правомощията се преместват за пръв  път в историята. Изобретихме нещо, което ни отнема правомощия. И това се случва толкова бързо, че повечето хора дори не разбират какво става. Трябва да гарантираме, че изкуственият интелект ще  взема добри решения за нашия живот. Но това е проблем, който далеч не сме разрешили”.

                                                   Възможните   изходи

Според Ювал Ноа Харари, първият възможен  изход е, че бързото развитие на технологиите и изкуственият интелект ще направят истинска революция в пазара на труда,  като изхвърлят  на улицата  милиони безполезни хора, които ще бъдат  лесно изхранвани, но ще прекарват времето  си в компанията на наркотиците и 3D световете на виртуалната реалност. И същевременно ще създаде малък  елит от свръхчовеци, които ще  владеят и управляват компютърните алгоритми.

Вторият възможен изход  е  посочен от директора на Института за бъдещето в Лондон  Ник Бостром, който предупреждава, че човечеството надали  ще стигне до такава деградация, защото изкуственият интелект, след като изпревари човешкия интелект, може би просто ще унищожи цялото човечество. Изкуственият интелект вероятно  ще направи това от страх, че човешкият род ще се обърне срещу него, и може да се опита да го изключи от мрежата.

                                             Регулациите, авторските права

Голямото предизвикателство в идващите десетилетия ще бъде запазването на баланса в отношенията между хората  и  алгоритмите/ роботите, и създаването на законова рамка за регулиране на тези отношения . Неслучайно ЕК  обсъжда създаването на законова рамка, която да даде своеобразни "човешки права" на алгоритмите, да узакони тяхната „електронна самоличност”. Представители на ЕП вече обсъждат  правила, които да гарантират сигурността на изкуствения  интелект. Предвижда се  алгоритмите/роботите да бъдат задължени да имат и допълнителни системи за защита, които позволяват на човека да изключи един робот във всяка ситуация, както и използването на роботи в случай на война.

Много бързото развитие на т.нар. генеративен ИИ принуждава  обществото да създаде съвсем нови правила за правата върху интелектуалната собственост.
Тяхната задача е да защитят произведения като текстове, изображения, дизайни и др., гарантирайки, че създателите им ще  получат полагащото им се възнаграждение. Какво става ако системите на изкуствения интелект създадат статия, песен, филм или рекламно лого? Кой ще притежава авторските права- програмистите/хората или алгоритмите/роботите?  И всъщност как ще бъдат  компенсирани онези творци, чиито произведения са били използвани при обучението на въпросните  алгоритми?

Това са  много сложни въпроси, на които днес  е трудно да се  даде еднозначен отговор. Факт е, че медийната индустрия се чувства все по-заплашена, и тя  започва да се съпротивлява. Фотоагенцията Getty Images  вече съди компанията за изкуствен интелект Stability AI, за която се твърди, че е обучила своя генератор на изображения с над 12 милиона нейни снимки. ЕК вече  подготвя  някои законови регулации, които се отнасят до ИИ, и необходимостта от  запазване на авторските права върху оригинални произведения, създадени от хора, а не от алгоритми.

                                          Научната фантастика. Прогнозите

Голяма част от прогнозите в научната фантастика, като правило се сбъдват.  Жул Верн в своите  романи предсказва кацането на човек на Луната и  появата на телевизията. Именно   той  прогнозира създаването на подводници и кораби.  Хърбърт Уелс  прогнозира  появата на атомната бомба, а  Артър Кларк в романите си  предлага  на човечеството космическите  сателити и електронните  вестници.  Дъглас Адамс в романа си „Пътеводител на галактическия стопаджия” предвижда  аудио превода от различни езици в реално време. Рей Бредбъри в „451 градуса по Фаренхайт” предвижда появата на слушалките, които се поставят в ухото за слушане на музика. Айзък Азимов  подарява на всички нас  общото бъдеще на хората и алгоритмите/роботите,  както  и неговите  три закона за роботиката, насочени към опазване и съхранение на човешкото общество и  неговия естествен  интелект. Струва се  да припомним   и четвъртия  Нулев закон на роботиката,  който съдържа много важно предупреждение: ”Един робот не трябва да причинява вреда на човечеството или чрез бездействието си  да допусне на човечеството да бъде причинена вреда”.

                                                Съдбоносносните  въпроси

Homo sapiens, като  въвежда изкуствения интелект в редица свои дейности , дали си дава сметка  за опасността, която в близко бъдеще дебне човешкото  общество като цяло? За възможността изкуственият интелект , буквално утре,  да се еманципира и  постигне пълен контрол  върху човешката цивилизация ? Факт е, че генеративният алгоритъм GPT-5 може да се самообучава и  да се надгражда, да установява контакт с други  алгоритми, да разработва нови продукти и стратегии, за които човекът дори не е предполагал. Например компютърната програма с изкуствен интелект "АлфаГо" на Гугъл се самообучава на древната китайска настолна игра Го, която е значително по-сложна от шахмата. През март 2016г. в Сеул е организирана среща между "АлфаГо"  и световният шампион по Го, южнокорееца Ли Седол. "АлфаГо" побеждава Ли с 4:1, като използва такива необичайни ходове и оригинални стратегии, които смайват експертите.

Доколко  се сбъдват сериозните опасения, формулирани още през 2015г. от  Стивън Хокинг и Илън Мъск в Отворено писмо  до света,  в което се казва, че бързото развитие на изкуствения  интелект  може да доведе до  практическото унищожение на човека  и   човешката  цивилизация?

„Изкуственият интелект е по-голямо предизвикателство от ядреното оръжие. С ядрените оръжия беше възможно да се измислят принципи за възпиране, при които имаше известна симетрия между щетите върху всяка от страните“, казва Хенри  Кисинджър. И  формулира някои много сериозни  философски въпроси:

-„Технологията за изкуствен интелект поставя хората пред необходимостта да определят - или може би да преосмислят - нашата роля в света. В продължение на 300 години, в цялата „епоха на разума“, хората са се ръководили от принципа „Мисля –  следователно  съществувам“. Но ако ИИ също „мисли“, тогава кои сме ние?

-Ако ИИ напише най-добрия сценарий на годината, трябва ли да му бъде даден Оскар?

-Ако ИИ може да симулира или пък успешно да проведе най-важните дипломатически преговори за годината, трябва ли да му бъде присъдена Нобелова награда за мир? Или тя ще трябва да бъде присъдена на хората, създали алгоритъма за този изкуствен интелект?

-Могат ли машините да имат „творчески“ потенциал?

- Може ли ИИ да се сприятелява с хората? Какво ще бъде въздействието на ИИ върху културата, човешката природа и историята?”.

Съдбоносни въпроси, които чакат своя  действително верен отговор –  от Homo Sapiens, от кой друг?