З часів монстра Франкенштейна наукова фантастика має справу з людством і суспільством через свідомі машини. У той же час нас вразила ідея свідомого штучного інтелекту.
Було написано безліч історій про машини, які досягли свідомості. Іноді машина обертається проти людей, як-от Термінатори, керовані мережею даних Skynet або штучним інтелектом HAL 9000, а іноді вона допомагає людям, як-от RD-D2 із *Зоряних війн* або Дані з *Зоряного шляху*. Десь посередині є копії *Того, що біжить по лезу*.
Західним людям не довелося прочитати жодної сторінки науково-фантастичної книги або подивитися жодного науково-фантастичного фільму, щоб мати якесь уявлення про свідомого робота.
– Усі знають Франкенштейна.
Цифровий світ насичений науковою фантастикою
Штучний інтелект став модним словом у технологічних колах і за їх межами. Моделі машинного навчання, які були розроблені за короткий час, і збільшення обчислювальної потужності дозволили створити програми, які виглядають як *наукова фантастика*. Чудовим прикладом цього є програма ChatGPT, розроблена компанією зі штучного інтелекту OpenAI, за допомогою якої кожен може спілкуватися.
Тому не дивно, що коли говорять про системи штучного інтелекту, все частіше виникає питання про свідомість машини. Свідома машина, якщо щось є *scifi*.
– Особливо з цифровими технологіями, коли ми бачимо лише її поверхню, наша уява керує тим, як ми з нею працюємо. Якщо ми думаємо, що це загроза, отримана з науково-фантастичних книг, або чудотворець, то обидві уяви керують нами, каже Ройн.
Ось що сталося з інженером Google минулої весни, який переконався, що штучний інтелект, розроблений компанією, досяг свідомості. Інженер, якого згодом звільнили, був настільки переконаний в обізнаності ШІ, що навіть знайшов свого адвоката. Адвокат зі штучного інтелекту – це… ну, *наукова фантастика.*
Штучний інтелект – це дзеркало людяності як у мистецтві, так і в житті
Наукова фантастика насправді не пропонує перспектив на цей момент. До моменту, коли деякі люди починають вважати штучний інтелект свідомим. У науковій фантастиці машина часто вже свідома.
– Вони не замислюються про те, наскільки складно сказати щось свідомо, – зазначає Кекеля.
За словами Кекеля, у старих історіях часто незрозуміло, як штучний інтелект або робот є свідомими. Вони потрапляють безпосередньо в ситуацію, коли штучний інтелект вже є свідомим актором серед інших персонажів. З іншого боку, визначити свідомість також важко в реальній науці.
Натомість наукова фантастика часто фокусується на роздумах про людяність, мораль і соціальні проблеми за допомогою роботів. Кекеля знову згадує *Франкенштейна*, який розглядає вплив суспільства на людей у \u200b\u200bдусі біхевіоризму.
– Та істота стає дзеркалом людства, суспільства. Це буде погано, тому що людство погане, каже Кекеля.
Подібну історію зростання пережив чат-бот Tay від Microsoft, метою якого було розвиватися у взаємодії з реальними людьми. Люди в Twitter відреагували на Тайха так само, як люди відреагували на створіння Франкенштейна в книзі Шеллі. За один день Тей став женоненависником-расистом.
Наукова фантастика – дзеркало свого часу
Наукова фантастика завжди була дзеркалом свого часу. На початку 20-го століття технологічний розвиток з’явився як обнадійлива історія про майбутнє людства. У 1950-х роках страх перед знищенням людства, спричиненим ядерною бомбою, почав просвічувати в історіях.
Рівність і рівні права людини супроводжували майже весь час існування цього виду мистецтва.
Зараз питання про емоції та про те, хто за них відповідає, лежать на поверхні.
«У сучасній науковій фантастиці питання емоцій пов’язане з тим, чи є ці емоції моїми власними, чи вони запрограмовані кимось іншим», — каже Ройн.
За допомогою цієї теми ми розглядаємо, наскільки емоції людини можуть контролюватися нею, а в якій мірі вони визначаються генами або біологією. За словами Ройні, історії часто підкреслюють той факт, що речі завжди мають соціальний і суспільний контекст.
Це відрізняється від наукової фантастики золотого віку, яка була написана, вважаючи, що можна створити природничі наукові моделі, які могли б передбачити, як все обернеться. Це наукова фантастика, яка надихнула багато сучасних систем штучного інтелекту.
Однак реальність ближча до сучасної фантастики.