Нещо за Алис и Боб

Ботове с творчески езикови умения завладяха популярното въображение. Те също така възродиха тревогите за робкалипсис

Алис и Боб, Алис и Боб Фейсбук, Фейсбук ботове, ботове с изкуствен интелектАлис и Боб, ботовете във Фейсбук, придобили позор поради неочакван дефицит в логиката на програмирането, са част от експеримент за изграждане на машини за преговори. C R Сасикумар

Интернет е запален от драматично обременени заглавия, които обявяват, че Facebook трябваше да спре фалшивите ботове с изкуствен интелект (AI), които разработиха собствен език, на който те водят нечовешки лични разговори. Те се четат като тийзъри за глобокалипсис на Терминатор, който е най-лошият кошмар на приматите, използващи инструменти – да бъде заменен от собственото му творение, машината.

Реалността е по-малко драматична, но по-вълнуваща. Ботовете са автономни агенти, първоначално програмирани да изпълняват домакински задачи по комуникационните канали или да се опитат да преминат теста на Тюринг. Те могат да ви подпишат, да ви изгонят, ако се държите лошо, да държат чат стаите отворени, когато няма никой вкъщи, да предоставят информация и да се маскират като хора. В системата за интернет Relay Chat ботът Eggdrop беше най-любимият за всички времена.

Внуците на такива ботове за портиери са вградени в съвременните агенти за търсене и месинджъри и имат възможности за изкуствен интелект. Те говорят с потребителите по-скоро като човек, отговарят на рутинни запитвания и предлагат съвети. Ако изглежда, че телефонът ви знае ума ви и извлича правилните неща, без да се налага да бъдете питани, голяма част от заслугата трябва да бъде на ботовете, работещи зад кулисите. Подобно на хората, ботовете могат да се учат от опита и са предназначени за по-големи неща в ситуации от реалния свят.



Алис и Боб, ботовете във Фейсбук, придобили позор поради неочакван дефицит в логиката на програмирането, са част от експеримент за изграждане на машини за преговори. Те просто измисляха как да споделят набор от предмети, като топки, така че нито една от страните да не се чувства измамена. Докато се пазареше, Алис правеше първоначално неразбираеми изказвания от рода на: Топките имат нула към мен към мен към мен към мен към мен към мен... И последваха страшните заглавия.

Ученето се задвижва от стимули, както учителите и родителите знаят. В този случай беше определена системата за възнаграждение на упражнението — по-добър дял и взаимно удовлетворение, същността на договарянето. Но нямаше стимул за ботовете да продължат да общуват на английски, който е известен като нелогичен език. Така те се плъзнаха в опростен, по-ефективен, подобен на новоговор, арго, който не е съвсем английски, но не и неразбираем, както се рекламира.

Изявлението на Алис, което беше погрешно разчетено като твърдение за независимост на машината, само показваше безпокойство от късата промяна (да има нула) и всяко за мен означаваше обект, който тя изискваше. Тя вършеше точно работата, за която беше програмирана: да се пазари тежко като магазинер на Капалъ чарши в Истанбул. И ако откри, че английският на кралицата пречи, тя не беше сама. Много раси от бившите колонии смятат, че главният език възпрепятства комуникацията в техните общности.

Само професионалните преговарящи хора трябва да се тревожат, ако гигантите от Силиконовата долина инвестират в програми за договаряне. Терористите и поборниците на върха също трябва да се страхуват от пенсия, тъй като в ситуации на заложници и международни сделки те могат да се окажат изправени пред неразгадаема, непримирима машина, която е много по-умна от Deep Blue, суперкомпютъра на IBM, който предизвика шампиона по шах Гари Каспаров през 1996 г.

Стремежът към разработване на частни езици е много човешка черта. Преди борсите да бъдат компютъризирани, борсовите брокери на търговския зал съобщаваха оферти с ръчни сигнали, които бяха неразбираеми за другите. Векове наред правоприлагащите органи са били озадачени от крадците, изкуствените езици на осъдените, които са глупости за техните затворници. Сред англоезичните престъпници от 20-ти век глупавата дума arkitnay означаваше: Млъкни, някой подслушва. В Индия Уилям Хенри Слиймън изучава Ramaseeana, песента на Thuggee, и публикува речник през 1836 г. Една от най-слабо изпълняваните, но най-интригуващи пиеси на Том Стопард е „Хамлет на Дог“, в която учениците изпълняват Шекспир на своя език, Dogg. Беше нещо като транспозиционен шифър. Например следобедите означаваха здравей в Dogg.

Няма значение предсказателите, интересното за Алис и Боб е, че създавайки език, те са предали една много човешка черта, която не са били изрично програмирани да проявяват. Преди 60 години първите ботове бяха написани, за да изследват точно този въпрос: Могат ли машините да бъдат програмирани да се държат като хората? Могат ли да преминат теста на Тюринг? Посочено в статия от 1950 г., озаглавена „Изчислителна техника и интелигентност“, Тюринг по същество предполага, че ако комуникациите на машината изглеждат човешки, тогава машината трябва да се разглежда като човешка.

Първият бот за обработка на естествен език, който излезе от лабораторията и спечели масова популярност, беше Eliza, създадена през 1964 г. от Джоузеф Вайзенбаум в MIT. Той го написа, за да демонстрира, че текстовите комуникации човек-машина не могат да се издигнат до нивото на човешки разговор. Напротив, Елиза повиши очакванията на обществото, че ще премине теста на Тюринг. Тридесет години по-късно още по-големи надежди бяха вдъхновени от Джулия, създадена от основателя на Lycos Майкъл Молдин, за да се състезава за наградата Loebner, Светия Граал на Тюринг. Но след известно време разговорите на Джулия се превърнаха в произволни разсъждения за свойствата на кучетата и котките (можете да говорите с модерна версия на нея на scratch.mit.edu/projects/2208608).

Сега ботове с творчески езикови умения завладяха популярното въображение, разпалвайки отново тревогите за робкалипсис. Но разработката в лабораторията за изкуствен интелект на Google всъщност е по-вълнуваща. През септември 2016 г. Google стартира със своята система за невронен машинен превод, която прилага дълбоко обучение към езика. Два месеца по-късно те прокараха плика: Ако една машина се научи да превежда, да речем, между хинди и немски, и между хинди и английски, би ли могла да превежда между английски и немски без мостовия език на хинди? Би могло, което предполага, че невронната мрежа е научила нещо фундаментално за това как умът свързва понятия и граматики, за да измисли езици. Малката, жълта, подобна на пиявица вавилонска риба, живият универсален преводач, замислен от Дъглас Адамс в края на седемдесетте, сега витае близо до ухото ви.

Разбира се, тъй като няма дългосрочна прогноза за AI, трябва да се обърне необходимото внимание на предупреждението на хора, които трябва да знаят по-добре, като Илон Мъск и Стивън Хокинг. Трябва да има регулация, въпреки протестите на привържениците на свободата на иновациите, като Марк Зукърбърг. И трябва да се развие общ консенсус, съгласуване на линии, които не трябва да се пресичат, както в случая на интервенции в човешкия геном. Но не може да се отрече, че експериментите във Facebook и Google напредват към първоначалната цел на AI, която беше да моделира и разбере аспекти на човешкия ум. Мрачните медийни истории, които привличат, са мимолетни сензации. На следващия ден са подходящи за увиване на риба.