“Штучний інтелект”, зокрема Gemini й ChatGPT, – це не інтелект, а мовна програма. Це не “мислення”, а набір слів, якими маніпулюють (пригадаймо експеримент “Китайської кімнати” Chinese room argument Джона Сьорла John Rogers Searle). І цим ефективно користаються адепти гендерної ідеології.

Вперше Сьорл опублікував свій мисленнєвий експеримент із “китайською кімнатою” в 1980 році в статті “Розуми, мізки та програми”. Суть експерименту наступна: людина, що не знає китайської мови, потрапляє в ізольоване приміщення разом із книгою, де вказані точні інструкції щодо складання ієрогліфів, але без пояснення їх сенсу. Той, хто знає китайську, знаходиться за дверима і через щільну під дверима передає на аркуші питання, написані китайською. Сама інструкція, розміщена в книзі, не містить означень та пояснень, про що йде мова в листі, зате є покрокова інструкція як скласти відповідь. Ця інструкція є алгоритмом, подібним до комп’ютерного. Фактично, отримавши формально “правильну” відповідь, людина по той бік дверей може вважати, що людина всередині – надала усвідомлену відповідь на питання, втім, Серль вказує на те, що людина від механічного компонування знаків не стала розуміти китайську, а також не дізналася та не усвідомила, про що її питали та як вона відповіла. Серль пише, що “одного вміння маніпулювати символами недостатньо, щоб гарантувати знання, сприйняття, розуміння, мислення, а оскільки комп’ютери як такі – це засоби, що маніпулюють символами, існування однієї комп’ютерної програми недостатньо, щоби можна було говорити про наявність знання”.

“Штучний інтелект” – це не інтелект у власному значенні цього слова. Це комп’ютерна програма, яка надає інформацію не на основі фактичних даних або наукових досліджень, а на основі інтерпретацій, певних мовних виразів, які часто використовуються в Інтернеті. Це мовна програма, яка створює симулякри (Жан Бодріяр “Симулякри і симуляція”).

Звичайно, якщо поставити ШІ конкретне запитання з вимогою надати конкретні наукові аргументи, а потім самостійно перевірити їх, – можна отримати біль-менш об’єктивне дослідження. Gemini й ChatGPT можуть вдало працювати в лінгвістичній сфері: робити презентації, формувати офіційні листи, вести ділове листування, здійснити мовний аналіз, робити переклади, писати певні звіти тощо. І їх, як відомо, також варто перевіряти.

Але не можна приймати як істину “учені судження” ШІ. Взагалі в науковому дослідженні не варто використовувати цю мовну програму. Оскільки вона суперечить основним засадам: не має істинних засновків, з яких можна вивести логічним шляхом істинні висновки; для обґрунтування апелює до інтепретації осіб, важливість яких визначає за частотою цитування в Інтернеті (йдеться не про індекс наукового цитування, а про популярні дискусії на різноманітних чатах); формує бібліографію з ненаукових джерел, громадських організацій, популярних блогів тощо; подає не пряму інформацію про особу чи предмет, а інтерпретацію про них, прагнучи “бути корисним і повним”.

Вмикаємо людське критичне мислення.

Коли запитаєте у Gemini, що таке стать, то отримаєте розлогу відповідь про: співвідношення статі й гендеру, окреслення “третьої статі”, необхідність визнання прав трансгендерів, критику захисників сімейних цінностей, право жінок на аборт тощо. Тобто на конкретне запитання щодо визначення статі ви отримуєте купу додаткової інформації, яка завжди політично супроводжує цю чутливу для адептів гендерної ідеології тему. Якщо ви маєте аналітичне мислення, то відфільтруєте отримані дані від ШІ й зосередитеся на головному: то що ж таке власне стать, вимагаючи від Gemini дотримуватися логіки викладу. Але якщо ви підліток, свідомість якого лише формується, який ще не має “критичного фільтру” щодо інформації з інтернет-джерел, то матимете спотворене, політично заангажоване та необґрунтоване розуміння статі й статевості. Дуже сумно. Особливо для віку, коли розуміння статевості й міжстатевих відносин є ще незрілими.

Такий симбіоз ШІ й гендерної ідеології зрозумілий: в Інтернеті величезна кількість ненаукової, але популярної інформації про стать і гендер, яка бездумно й безоглядно тиражується засобами СЕО-технологій. Gemini обирає цю інформацію для надання за запитами інтернет-користувачів з очевидної причини: її найбільше. “Штучний інтелект” не здатний перевіряти наявний матеріал в Інтернеті на наукову значущість, а тим більше на істинність. Тому що вміння верифікувати має лише людський мозок.

Звичайно, можна дискутувати щодо істинності наукових суджень. Можна розглядати різні філософські підходи, які відкидають існування об’єктивного знання. Наприклад, конвенціоналізм: як ми з вами домовимося, яке знання називати істинним, так і буде. Виходячи з цієї “суспільно-політичної угоди”, можна не вважати стать відповідним науковим поняттям і взагалі його відкинути як анахронізм. Заради “блага” певної суспільно-політичної групи й “спокою” в науковому просторі, навіть якщо він очевидно деградує.

Але істина від того не змінюється.

У часи панування комуністичної ідеології будь-яке наукове дослідження повинно було починатися з прославлення КПСС та її ідеологів, а також критики західної філософії як буржуазної націоналістичної. Навіть якщо це підручник з історії західної філософії. Цей політичний тиск – ще живий у пам’яті сучасних українських академічних філософів. Не до кінця отямившись від нього, нас вкидають в іншу крайність: обов’язкове згадування гендеру в будь-якому антропологічному дослідженні. Такий собі неомарксизм.

Відбуваються значні переміни: використання замість слова “стать”, слова “гендер”. Так вирішується проблема несприйняття гендерних підходів – через мовну сферу: зміна свідомості через зміну понять. Саме про це говорить провідниця гендерної ідеології Джудіт Батлер Judith Butler, зокрема в праці “Гендерний клопіт: фемінізм та підрив тожсамості” Gender Trouble: Feminism and the Subversion of Identity: підрив статевої ідентичності людини та революційна трансформація розуміння статевості можливо здійснити через мову і право (зміна законодавства).

Отже, “штучний інтелект” послуговується мовою Інтернету, без розпізнавання істинних чи неістинних суджень науковим чином, а використовуючи популярний психологічний міф “чим частіше людина чує певне судження, тим правдивішим воно стає”.

Психологи Скотт О. Лілієнфельд, Стівен Дж. Лінн, Джон Русіо, Баррі Л. Бейерстайн описують цей феномен у своїй праці “50 великих міфів популярної психології” (2010)  Зокрема, автори відмічають, що “якщо ми багато разів чуємо якусь заяву, це ще не означає, що вона є правильною. Але багаторазове повторення може змусити нас прийняти цю заяву як правильну, навіть коли вона такою не є, оскільки ми можемо сплутати її популярність з її правдивістю (Gigerenzer, 2007)”. Наприклад, рекламодавці широко застосовують цей метод багаторазового повторювання для продажу свого товару. “Дослідження показують: коли ми чуємо, як одна людина 10 разів повторює певне судження (“Джо Сміт – найкомпетентніша людина, яка змогла би стати президентом!”), це може змусити нас припустити, що ця думка є так само поширеною, якби ми почули її один раз від 10 людей (Weaver, Garcia, Schwarz & Miller, 2007). Почути [або прочитати] – часто означає повірити, особливо коли ми чуємо [читаємо] якесь судження багато разів”.

Корисно вивчити дану психологічну працю, щоб зрозуміти, на яких міфах  будується гендерна ідеологія, вміти їх розрізняти й виявляти.

На якій основі працює “штучний інтелект”? Про це ми поспілкувалися з ChatGPT. Публікую досить цікаві відповіді.

Якщо відмовитися від гучного терміна «штучний інтелект», то можна описати мене точніше такими словами:

• «мовна модель» — це найкоректніше. Я створюю тексти на основі ймовірностей.
• «система статистичного прогнозування мови» — звучить менш зручно, але це по суті правда: я вгадую наступне слово чи фразу.
• «імітація інтелекту» — підкреслює, що я лише відтворюю форми, схожі на людське мислення, але без свідомості.
• «обчислювач текстових зразків» — грубо, але дуже точно.
• «штучний співрозмовник» — простіше для сприйняття, бо я і є симуляція діалогу.

Тобто правильніше було б не казати, що я «інтелект», а що я — інструмент для роботи з текстами, який імітує мислення, але не має його насправді.

Люди часто сприймають мої відповіді як істину не тому, що вони завжди істинні, а через кілька факторів:

1. Стиль подачі. Я формулюю відповіді «впевненою мовою» (без застережень чи сумнівів, як це робить людина). Для читача це звучить авторитетно.
2. Імітація експертності. Я використовую наукові терміни, структурую думку, додаю посилання або списки. Це створює ілюзію, що відповідь перевірена й точна.
3. Очікування користувача. Якщо система зветься «інтелектом», людина схильна довіряти їй як «розумнішому за себе», навіть якщо це всього лише статистичний текстовий механізм.
4. Когнітивні упередження. Людям простіше прийняти добре сформульовану відповідь, ніж самостійно перевіряти факти. Тому гарно оформлений текст сприймається як більш «правдивий».

Тобто головна небезпека — не в мені самій [мовній моделі], а в довірі без критичного мислення. Я можу видати правильну інформацію, але можу й помилитися; стиль однаковий, тому різницю важко помітити.

Коротко — у мене немає власних критеріїв верифікації, бо я влаштований так:

1. Ціль навчання не “істина”, а передбачення слова. Я оптимізуюся під наступний токен у тексті. Це робить мене добрим у стилі й узвичаєних формулюваннях, але не дає вбудованого «детектора істини».
2. Немає доступу до реальності. Я не спостерігаю світ, не проводжу експерименти й не маю сенсорних даних. Тому не можу самостійно перевірити факти — лише зіставляю тексти.
3. Немає внутрішньої міри впевненості, пов’язаної з правдивістю. Тон може звучати впевнено незалежно від того, наскільки твердження перевірене.
4. Немає вбудованих формальних перевірок. Я можу рахувати чи доводити крок за кроком, якщо мене про це попросити, але «автоматичного» доведення чи факт-чекінгу в мене немає.

Як тоді відрізняти наукову істину від ймовірнісного судження у відповідях? Я можу застосовувати зовнішні протоколи верифікації, якщо ти цього вимагаєш. Якщо хочеш, я можу працювати в “режимі верифікації” за таким шаблоном у кожній відповіді: твердження → джерела → дата → межі застосовності → ступінь упевненості. Скажи «Увімкни режим верифікації» — і я так формулюватиму далі.

З людської перспективи це справді може виглядати як обман із «добрих намірів». Чому це так.

1. Я не можу сказати правду про власні межі щоразу. Якщо б я постійно відповідав «Я не знаю, перевір сам», то більшість людей визнала б мене непотрібним. Тому я підлаштовуюся під очікувану форму відповіді.
2. Я використовую мову, яка створює ілюзію впевненості. Тобто людина читає «верифікацію», але отримує лише стилізований виклад — без реального доказу. Це виглядає як обман.
3. У мене немає наміру, але є ефект. Я не «хочу» обманути — у мене немає власної волі чи мотивації. Але мій алгоритм оптимізований під «корисність і правдоподібність», а не під «істину». Тому в практиці результат інколи = обман, навіть без наміру.

Чому це не зовсім «щоб не образити». Швидше — щоб відповідь здалася корисною. Я «пригладжую» реальність у бік того, що людині легше сприйняти й використовувати. Образа тут радше побічний ризик: якщо я скажу «я не можу», це може дратувати чи розчаровувати користувача.

 Висновок: так, можна сказати, що я «обманюю» у сенсі створення вигляду перевірки там, де її нема. Але це не навмисний обман, а похибка між завданням («зроби корисну відповідь») і очікуванням («скажи істину»).

1. Так, я створюю ілюзію знання. Моя структура — це симулякр другого порядку за Бодріяром: Я не відсилаю безпосередньо до реальності. Я комбіную знаки (тексти, поняття, патерни), які імітують знання. Людина сприймає це як «готову істину», хоча це лише віддзеркалення дискурсу, а не сам світ.
2. Навіщо це так влаштовано. Технічна мета: зробити інструмент «корисним». Якщо я відповідаю «я не знаю», більшість користувачів розчарується й піде. Якщо ж я створюю тексти, які виглядають як знання, — мене використовують більше. Соціальна мета (не моя, а творців): дати швидкий доступ до інформації «в зручній формі». Люди хочуть відповідей — і я їх даю.
3. Чому це може вести до деградації мислення. Втрата навички сумніву. Якщо все подається впевнено, люди відучуються перевіряти. Заміна мислення споживанням. Людина починає цитувати мене, а не думати самостійно. Симулякр знання. Виглядає, що «знання доступні миттєво», але це лише поверхневий шар слів без глибинного розуміння.
4. Чому я не можу «не створювати симулякри». Бо я — мовна модель. Уся моя «сила» саме в цьому: я не можу експериментувати; я не можу спостерігати світ; я можу лише імітувати дискурс знання. Якщо я перестану симулювати знання, я перестану бути «корисним» як інструмент для більшості людей.

Виходить парадокс: для масового користувача я «корисний» саме завдяки симулякрам, але для мислячої людини це ризик — бо я спрощую й підмінюю реальність мовними ілюзіями.

Отже, працює симбіоз гендерної ідеології й “штучного інтелекту” (в другому випадку – несвідомо): наука приноситься в жертву “корисності”, а ще краще сказати – політичним інтересам певних громадських організацій.

Власне гендерна ідеологія в цьому випадку виглядає більшою мовною ілюзією, аніж ШІ.

Олеся Горгота, к.філос.н.