Які виклики створює впровадження ШІ в нашу повсякденність? Чому, без базової інформаційної грамотності й навички ставити запитання, навіть найкраща мовна модель стає джерелом дезінформації? І чи дійсно людське тіло та емпатія – останнє, що не піддається алгоритмам ШІ?
Це третя частина бесіди співзасновника книжкової премії KBU AWARDS Дмитра Лаппо з Сонею Рашкован, 20-річною українкою, яка у дванадцять років переїхала з України до США і нині вивчає соціокультурну та діджітал антропологію в Університеті Брауна.
Перша частина >> «Три причини читати книги сьогодні: досвід, насолода, знання – історія Соні Рашкован, яка закохалася в книги не з першого погляду»
Друга частина >> «Бібліотеки-хаби, що відкривають портали в інші виміри. Та українські книги, які є амбасадорами нашого досвіду»
Соня Рашкован. Фото з особистого архіву
Дмитро: Ми обговорили з вами дві важливі теми – навіщо взагалі потрібно читання і про бібліотеки як мультифункціональні хаби. І кілька разів побіжно торкалися тем ШІ та важливості тілесного досвіду. Давайте до них повернемося. Адже ШІ вводить інший рівень правил в усі сфери нашого життя: освіту, наукові експерименти, роботу з інформацією.
Соня: Саме так. Але спочатку повернемося знову до теми читання. Я вже казала, що немає “універсальної книжки”, яка підходить усім. Комусь хочеться читати “Бійцівський клуб”. А хтось читає “Автостопом по галактиці”. На перший погляд, друга книжка – це просто фантастика, а насправді – книга про правила цього й іншого світу. І улюблена книжка Ілона Маска. І коли ти читаєш її, знаючи, що вона справила сильне враження на людину, яка реально стала майже релігійним лідером Кремнієвої долини за останні двадцять років, ти раптом починаєш бачити цю книгу зовсім по-іншому.
Ти розумієш, що “Автостопом по галактиці” була перепусткою в уявний світ для людини, яка змінює твій реальний світ. І ти думаєш: те, що закладено в цій книзі тепер виявляється і в його діях, і в тому, як він мислить. І мова не лише про Ілона Маска, насправді.
Дмитро: Тобто, якщо хочеш наблизитись до чийогось світогляду, неохідно прочитати книги, які на нього вплинули, створили “первинну прошивку”, початкову установку?
Соня: Так. Наприклад, в книзі “Автостопом по галактиці” є чудова ідея. Я дослівно її не згадаю, давно читала, але там звучить щось на кшталт: “Половина хорошої відповіді це добре сформульоване запитання”. І ця ідея настільки глибока, що реально змушує задуматись: а може, ця людина, з якою я йду на перемовини, живе у світі питань, а не відповідей? І це змінює підхід. І я мовчу, що ця концепція була звʼязаною з “Основним питанням життя, Всесвіту та всього іншого”. Не буду спойлерити але коли дізнаєтесь відповідь почитайте, як ШІ моделі теж дуже полюбляють цю відповідь.
Дмитро: Тобто “Галактика” це і дипломат і адвокат. Ця книга веде в інший світ і озвучує правила, які згодом стають і нашою реальністю.
Соня: Так, перетікають із вигаданого світу в реальний. Наприклад, у Галактиці є опис технології: рибки, яких вставляєш у вуха, і вони автоматично перекладають з будь-якої мови на будь-яку. І так інопланетяни спілкувались між собою. А зараз ця ідея вже реалізована в нашому світі. Без рибок, дякувати Богу, але концептуально те саме: вставляємо навушник у вухо і з мінімальною затримкою отримуємо переклад того, що каже інша людина.
І виходить, що ті діти, які виросли на цій книжці, ті, хто мріяв про риб-перекладачів, сьогодні працюють у Кремнієвій долині програмістами, продакт-менеджерами, інженерами. Це дуже цікаво спостерігати.
Дмитро: ШІ теж певним чином є наслідком тої технофантастики, на якій зростало сучасне покоління програмістів.
Соня: Але поява ШІ не лише розширює наші можливості, а й ставить перед нами нові питання щодо споживання та роботи з інформацією.
Певний час я до ШІ ставилася обережно, як користувач. Потім, приблизно два роки тому, почала займатись цим глибше: з погляду впровадження, але з техно-песимістичним ухилом. Мої ментори, багато з яких працювали в Big Tech, розповідали, як усе розвивалось усередині: ті, хто просував інновації, дуже швидко перемогли тих, хто був за регулювання. А я тоді стояла на боці регулювання.
Робоче місце Соні. Фото з особистого архіву
Але вже цього року я провела час серед комп’ютерних інженерів, сама руками працювала з моделями: збирала дані, вчилася імплементувати ці системи в межах освітнього середовища. І зрозуміла: регуляції регуляціями, але поки вони доходять до політик, технології вже встигають обійти закон. Наприклад, я прочитала декілька нещодавніх законопроєктів про AI в США, які виникли, зокрема, після історії з фейковим відео Тейлор Свіфт. Ці документи були дуже загальними й запізнілими. Я вже мала ChatGPT у телефоні й розуміла, що він обходить усі ці рамки.
Мої соціогуманітарні питання мене не полишали, і я пішла до одного професора, дуже поважної людини в галузі Data Science. Сказала йому: “AI не створює нових проблем, він просто підсилює старі”. А він розвернувся й відповів: “Ні. Створює. Бо, наприклад, якщо раніше якась помилка траплялася раз на день, то тепер – раз на секунду”. Машина масштабує навіть помилки.
Дмитро: Мільйон помилок на секунду…
Соня: Якщо ШІ користуються умовно 100 мільйонів людей у світі (а насправді вже значно-значно більше) – це вже 100 мільйонів помилок щосекунди. І це масштаб, який важко навіть уявити.
І коли набігає критична маса, то це вже зовсім інший рівень. Сто мільйонів проблем не те саме, що одна. Ми навіть не маємо інструментів, щоби це осягнути. У нас у голові просто немає простору, щоб зрозуміти, що таке сто мільйонів помилок за секунду.
Дмитро: В цьому є й інша проблема. Продовжуючи вашу думку про те, що кожна книжка це окремий світ, кожен з яких має початок і кінець і розвиває якийсь конкретний напрямок: емоції, математичні або інші здібності, ділиться певною інформацією, тощо. То ШІ зараз може створювати безліч світів, які не просто не збігаються з реальністю, а спотворюють її. І кількість таких “дверей”, таких світів, на відміну від книжок, уже нескінченна. І життя стає схожим на якесь занурення в симуляцію, де людину витягують з реального світу і… все.
Соня: Так, будь ласка, занурюйся без будь-яких гальм. Лише прискорення. Це проблема. І якраз проблема масштабування: раніше могла бути одна людина, яка занурилася в свій світ і не виходить звідти. А зараз ми маємо механізми, які дозволяють поширити це явище на мільйони. І серед усіх нових проблем, що створюються, одна дуже чітко перетинається з темою отримання інформації. Якщо подивитися на статистику, дорослі й особливо люди похилого віку споживають інформацію з Інтернет значно швидше і більше. І довіряють їй.
Так, проблема надмірної довіри до інформації виникла не через ШІ. Подивіться, як, наприклад, наші бабусі дивляться відео про таро або слухають Арестовича. Це все – взаємодія з інформацією. Це вже ширша концепція.
До речі, в університетах США бібліотекар не просто людина, яка видає книжки. Він повинен мати диплом у сфері інформаційних наук. Бо бібліотека – місце, яке забезпечує доступ до інформації. Особливо в контексті університетів, де їхнє завдання – навчити працювати з інформацією. Наприклад, мій університет отримує великі гранти саме на дослідницьку діяльність в цій сфері.
Так от, правилам взаємодії з інформацією зараз мало або поверхнево вчать навіть у школах у США.
Тому ми вже стоїмо перед розбитим коритом. Є величезна кількість людей, які не читали нічого серйозного роками. Особливо нехудожню літературу. Я думаю, тих, хто регулярно читає нонфікшн, взагалі мізерна кількість.
Ще одна важлива проблема, яку не завжди розуміють не науковці: цитування. Це один із наріжних каменів у ставленні до інформації. Треба розуміти, що навіть найгеніальніша думка, яка виникла у твоїй голові, не обов’язково тільки твоя. І що ти, скоріше за все, не перший, хто до цього дійшов. Можливо ви геній, і дійшли самі. Окей. Але навіть у такому разі наука вимагає: подивись, чи не було цієї думки раніше.
У нас був такий момент: тато виступав на шабатній вечері в Єльському Університеті і розповідав історію: мовляв, його виховали в переконанні, що потрібно саджати дерева для двох поколінь наперед. Бо дідусь садить, батько доглядає, а син уже їсть яблука. І дуже важливо навчити сина теж саджати, бо якщо він усе з’їсть зараз, а сам нічого не посадить, то через три покоління вже нічого не залишиться. І тут раввин піднімає очі й каже: “Це ж із Талмуду”. А тато сидить і каже: “Боже, як же соромно, що я цього не знав”. Він думав, що це особиста мудрість його батька, а виявилося що ця думка має тисячолітню історію. Але ребе відповів: це нормально, багато мудрих думок здаються нам “своїми”, хоча насправді вони давно вже сказані.
І це важливо: розуміти, що ти не один, хто взаємодіє з інформацією. Це не применшує твою цінність, навпаки, вказує на зв’язок, на тяглість. І іноді треба прочитати одного філософа, щоб зрозуміти, чому десятий в іншому часі щось сказав. Університет вчить, як знаходити такі зв’язки.
Соня на фоні домашньої бібліотеки, 2017 рік. Фото з сімейного архіву сім’ї Рашкован
Дмитро: Власне, це ваша стихія, як антропологині: простежити, як змінювалася ідея, як трансформувалась думка. Бо якщо ти не знаєш, хто був першим, і вважаєш себе автором, то рано чи пізно доведеться пройти той самий шлях.
Соня: І ось це важливий аспект: як ми працюємо з інформацією. Наприклад, вміти розрізняти, у чому різниця між New York Times і New York Post. У нашій бібліотеці є навіть окремі ресурси й статті про це. Коли бібліотекари приходять до класу, вони вчать, як взаємодіяти з медіа, як користуватися джерелами, як розпізнати фейковий сайт. Тобто дають елементарні інструменти інформаційної грамотності та гігієни. Пояснюють, чому варто, наприклад, цитувати New York Times, а не New York Post, бо останній – жовта преса. Вони можуть написати, що інопланетяни вже прилетіли в Нью-Йорк, і їхня мама керує міськрадою. А в New York Times хоча б є аналітика й фактчекери. Але і там теж треба перевіряти.
А потім, якщо ви, наприклад, антрополог, то у вас є профільні джерела. Є своя академічна спільнота. В Америці, наприклад, є American Anthropological Association. Вона зберігає все, що колись написано про антропологію, і видає свій науковий журнал. І якщо ви серйозно ідентифікуєте себе як антрополога, варто оформити підписку.
Щодо “інформаційної гігієни” – багато людей її просто не тренують. А ШІ масштабує цю проблему до неймовірного рівня. І тут ми підходимо до дуже серйозної теми – дезінформації. Бо книжки вчать тебе критично мислити, аналізувати, ставити питання. А росіяни, наприклад, активно займаються тим, що називається “отруєння інформації”.
Це можна робити в лоб: через Арестовича чи “1 канал”. А можна дуже витончено, з допомогою мовних моделей. Буквально два-три тижні тому вийшло гучне розслідування, яке активно поширили медіа, які займаються інформаційною безпекою. Йшлося про те, як була створена мережа сайтів “Правда”, куди масово закидали неправдиву інформацію. Це такий трюк: ти створюєш найпростіший сайт і наповнюєш його фейками. Самі фейки були також згенеровані за допомогою великих мовних моделей.
Потім при тренуванні ключових мовних моделей типу ChatGPT або Claude, Gemini тощо ці отруйні дані потрапляють в тренінгові датасети. І чим більше поширено схожої інформації, тим більша ймовірність, що вона потрапить в середину моделі і потім буде спотворювати вже відповіді ШІ на запити в чат-ботах.
Поки що в нас немає інструментів для боротьби з цим. В США діє Розділ 230 Закону про пристойність у комунікаціях, який, наприклад, класифікує соцмережі як платформи, а не як видавців інформації. Відповідно, вони не несуть відповідальності за весь контент, що там з’являється. Я вважаю, що ШІ не мають підпадати під цей закон, тому що мовні моделі вже не платформи. Вони не просто передають інформацію, вони її “продукують”, створюють. Я навіть писала статтю про те, що AI вже сам по собі як червоний прапор, як тривожний сигнал, що потрібно міняти законодавство, створювати нові норми, бо ці системи вже не просто ретранслюють інформацію. Вони її виробляють, створюють.
Моделі самі “їдять” усю інформацію, включно з отруєною, а потім її “випльовують”. І чим більше там буде “отрути”, тим більше вони будуть її повторювати.
І важливо розуміти, що росіяни цілеспрямовано працюють над тим, щоб змінити інформаційний контекст і контент. Їм потрібно, щоб у світі думали, ніби Росія – безмежна, вічна імперія, а України не існує. Пам’ятаєте вірусне відео, де Путін питає хлопчика: “Де закінчується Росія?”, а той відповідає: “Берингова протока”. На що Путін його коригує і каже: “Ніде”. Після такої “неповної відповіді”, жартують, хлопчика й родину більше не бачили.
Російська пропаганда зацікавлена в тому, щоб Україна як держава, як суб’єкт, просто зникла з мап мислення. Тому й отрута, яку вони масово заливають у великі мовні моделі, це, наприклад, тези про те, що “Київська Русь це Росія”, або що “України не існує”. І це вже не просто дезінформація, це підміна культурної пам’яті на глобальному рівні.
Дмитро: Критичне мислення повинно бути дуже-дуже розвинене.
Соня: Так. Але, чесно кажучи, фраза “критичне мислення” вже настільки заїжджена, що я не завжди розумію, що під нею мають на увазі. Це може бути що завгодно. Навіть людина в класі, яка грає роль адвоката диявола, може вважати себе носієм критичного мислення.
Для мене важливіша інша концепція: інформаційна грамотність. Уміння споживати інформацію усвідомлено. Я читаю багато досліджень про медіаграмотність, і там підкреслюється: твоє завдання як освіченої людини не просто отримувати знання, а ставити запитання.
Коли я бачу перед собою якийсь текст, ще до того, як читаю його, у мене автоматично виникає запитання: хто це написав, чому я зараз це бачу, чому саме мені це дали? Наприклад, приходиш на урок, а на парті лежить якийсь роздрукований текст. Я одразу його переглядаю. Не з недовіри, а з інтересу: чим я збираюся “нагодувати” свій мозок, звідки ця інформація взялася?
Дмитро: Я почув у вашому порівнянні важливу річ. Люди дуже переймаються тим, що їдять: читають етикетки, цікавляться, звідки продукти… А от з інформацією чомусь ні. В їжі ми розуміємо: якщо щось не те з’їв – може бути погано. А от у споживанні знань така обережність кудись зникає. А це ж те саме: що ми впускаємо в себе, як формуємо мислення.
Соня: До речі, в Талмуді є цікава порада: не можна залишати на ніч відкритий стакан води. Бо якщо ти живеш у пустелі, скорпіон може заповзти в нього й залишити отруту. Тобто вода зранку буде вже небезпечна. Ця метафора дуже точна: не можна залишати мозок “відкритим” для всього, бо, в якийсь момент перестаєш розуміти, що за “інформація” в тебе всередині.
Професор Стенфордського університету Френсіс Фукуяма та Соня Рашкован.
Фото з сімейного архіву сім’ї Рашкован, 2016 рік
Дмитро: Не залишаємо мозок відкритим завжди, так? Бо зараз нас постійно “обстрілюють” інформацією.
Соня: Так, і навіть не завжди свідомо підсовують “отруєну”. Наприклад, є бренди, яким ми автоматично довіряємо, як було свого часу з Кореспондентом. Багато років – незалежна, крута редакція, якісна журналістика. Але одного дня скорпіон таки заповз у той стакан: бренд залишили, а зміст отруїли. І добре, що українські журналісти встали й сказали: “Ні. Ми підемо і наллємо нову воду”. Заснували новий проєкт NV, і тепер їхня редакція – приклад принциповості. Є і інші кейси в Україні, наприклад, з англомовними виданнями.
Це дуже просте правило: завжди перевіряти, звідки в тебе інформація. Якщо ти не можеш перевірити джерело, то це вже червоний прапорець.
З мовними моделями та сама історія. ChatGPT, наприклад, каже: “Ось тобі факт”. Але ти не бачиш, звідки цей факт. Бо вся інформація всередині – умовна чорна скринька. І я чесно вважаю, що, якби OpenAI відкрив, на чому реально тренували свої моделі, їх би одразу засудили. Бо там є порушення авторських прав.
Тому критично мислити це не тільки про “думай логічно”, а й про “розумій, що ти зараз споживаєш”. Я можу не завжди перевіряти дати, які мені надає ШІ, але завжди перевіряю цитати. Мене цьому навчили медіа, які складають клікабельні заголовки, що не мають реального підгрунтя в тексті, і власний досвід.
У школі я була другим головним редактором газети. Велика команда, десь 90 людей. І от там ти дуже швидко вчишся: якщо щось не перевірив – завтра вже скандал.
Дмитро: У вас там ціла редакція була, так? Тобто це була не просто стенгазета?
Соня: Так. В школі навчалося понад 2200 учнів. І газета, відповідно, була дуже потужна, одна з найкращих шкільних газет в Америці. Що підтверджено рейтингами та нагородами. І я цим дуже пишаюся. Наприклад, я написала для неї текст про Україну. Його навіть національна платформа передрукувала, і він там досі на першому місці за переглядами в США. Для мене теж важливо бути дипломаткою своєї країни.
Так от, до нас в газету прийшла дівчинка, запропонувала лайтову тему: про вчителів, які приводять своїх домашніх тварин до школи. Милий формат, всі таке люблять. Вона написала, ми перевірили цитати. Все ніби чисто. Публікуємо.
І до нас приходить вчителька, яка каже: “Дуже класна стаття, дякую. Але є один абзац, там, де описано, як я заходжу вранці, в одній руці термокружка Stanley, в іншій собачка, на мені фіолетовий светр. Це красиво написано, але такого ніколи не було, і в мене немає фіолетового светра”.
Тобто ми перевірили всі цитати, але не звернули увагу на художній опис, який став художньою вигадкою. Якщо б текст був creative writing новелою, це ок, а це був більше репортаж. І ця помилка стала для нас уроком: перевіряти треба не тільки факти, а й стиль подачі. Бо навіть гарно написаний абзац може містити те, чого не було.
І слава Богу, що це була історія про тваринок у школі, а не щось серйозніше.
Після цього ми цю дівчинку буквально провели через пекло, змушуючи доводити правдивість кожної своєї наступної історії. Бо коли ти один раз підвів, уже не маєш того самого рівня довіри. А для нас, як редакції, відповідальність за правдиву інформацію першочергова. Іноді навіть якусь нібито “дурну” дрібничку треба перевірити.
Це був урок з позиції видавця. Але з боку читача теж: якщо бачиш щось надто емоційне, надто гладке, то варто перевірити. Пропаганда дуже любить емоційне забарвлення.
Або другий приклад. Це сталося нещодавно. У нас в університеті відбулася дискусія щодо списування. Бо що таке “списування” зараз? LLM-моделі змінюють саму суть цього поняття. Це не просто “переписав у сусіда”, це зовсім інше.
Я в рамках нашої лабораторії намагалася просувати ідею, що LLM можна імплементувати конструктивно, наприклад, як інструмент для структурування власної відповіді, а не як генератор готового тексту. Наступного дня я приходжу на зустріч до свого куратора курсової роботи з департаменту антропології, а він мені каже: маю йти до голови атлетичної програми університету, бо в них пандемія списування серед спортсменів. Вони масово здають тексти, повністю написані ChatGPT.
Варто розуміти: в Америці спортсмени зовсім інша категорія студентів. Вони вступають в університети не тільки заради навчання, а більше – щоб грати за команди. Для них навчання може бути другорядним. Бо університет отримує рейтинги й увагу завдяки перемогам у футболі, тенісі, сквоші і, відповідно, більше заявок від абітурієнтів. Тому спортсмени відчувають, що займають важливе місце в системі, і ніхто їх чіпати не може. І, як показує досвід, списують вони часто й нахабно. Але списування насправді жорстко наказується, якщо це доводиться.
За словами мого куратора один із студентів-спортсменів точно списав. Але в куратора є принцип: не відправляти одразу до декана, а дати можливість переписати вручну, у присутності професора і так щоб було очевидно, розуміє студент тему чи ні.
І от він посадив спортсмена переписувати вручну, але йому треба було вийти по справах, і він залишив асистентку наглядати. Студент її, мабуть, якось переконав, що у нього особливі умови навчання, і він може підглядати в нотатки. Він написав, здав, пішов.
Коли ж професор почав читати написане, він засумнівався: есе просто жахливе чи списане? Але між “дуже погане” і “порушення етики” велика різниця. Тому що за перше поставлять погану оцінку, а за друге – виженуть з університету. І от він читає жахливе есе і натрапляє на ідеальну цитату з посиланням на книгу і номер сторінки – 275. А в нього на полиці є ця книга, і він точно знає, що в ній немає 275 сторінки, вона коротша.
Він дістав книжку з полиці, перевірив: так і є, не існує такої сторінки і такої цитати. Після того перевірив взагалі усі цитати з есе. І кожна була вигаданою, згенерованою LLM-моделлю. Але подані дуже переконливо: все звучало правильно, в стилі автора, ті ж самі ідеї, але… цитати вигадані, сторінки неіснуючі.
І тут кілька висновків. По-перше, студент цю книжку в очі не бачив, інакше б знав, що вона коротша. По-друге, сам факт: зважився списати, але навіть не перевірив, що йому видало. По-третє, оскільки професор є експертом у цій нішевій темі і перечитав усе, що по ній існує, він одразу побачив фальсифікацію. Бо він не просто тримав цю книжку в руках, він її перечитував не раз, жив із нею, мав власні питання до неї.
І це дуже важливий момент, про який вже багато хто пише: ти не можеш використовувати LLM-моделі для складних речей, в яких ти не є експертом. Бо текст звучатиме ідеально, але ти не зможеш відрізнити, правда це чи ні.
Бо якщо ти не маєш хоча б початкових уявлень, імен, концепцій, ти повністю залежний від відповіді чат-боту. І в цьому сенсі, мені здається, тільки книжки досі здатні навчити по-справжньому взаємодіяти з інформацією. Особливо ті, що мають вже довгий життєвий шлях в 50, 200, 300 років. І, до речі, погані книжки теж треба читати. Щоб навчитися розрізняти погані і хороші книги. Щоб мати шкалу. Якщо ти читаєш тільки найкращих авторів, ти забуваєш, наскільки вони цінні. Потім бачиш цитату з сучасних книжок в Інстаграм й розумієш: не всі, хто вміє писати, мусять це робити. І це теж важливо: розуміти, що читання це практика.
Я зараз багато думаю, з чим ми будемо працювати наступного року в бібліотеці. Бо, чесно, не знаю, що робити в ситуації, коли люди вже не читають, школи не навчають інформаційної гігієни, соцмережі поширюють фейки, а ШІ множать помилки – як із цим працювати?
Соня, 2024 рік. Фото з сімейного архіву сім’ї Рашкован
Дмитро: Це вже територія Оксани Мороз. Вона системна: і корпорації навчає, і книжки пише, і сайт у неї є. Вона справжня профі з інформаційної гігієни.
Соня: Так, я з її роботою теж знайома.
Дмитро: Спробую переформулювати вашу думку, бо ця тема мене теж муляє. Тобто, наскільки ти фаховий експерт, настільки ти можеш собі дозволити покладатися на інтуїцію. Але якщо вивчаєш щось нове, щось за межами своєї компетенції, то маєш все перевіряти максимально уважно. Бо зараз уже не час покладатися на авось, і це про відповідальність.
Тому що модель, якою б гарною вона не була, з якої б кількості джерел її не зібрали, якщо вона не проросла з реального життя, вона не жива. Вона спирається радше на статистику та вірогідності ніж реальний досвід. І от саме ця відсутність життя – головна причина, чому на моделі не можна беззастережно покладатися.
І якщо ти хочеш залишатися свідомою людиною, фахівцем, то маєш хоча б частково вимикатися з потоку інформації. Прокачувати себе окремо, незалежно, а вже потім звірятися з тим, що пропонує цифровий світ. І розуміти: ось тут я можу покластися на власний досвід, а тут – обов’язково перевірити. Бо якщо не перевірити, то легко виявиться, що це повний фейк.
Соня: Так! І от вам приклад. Нещодавно “Chicago Sun-Times”, та деякі інші американські газети опублікували так званий “Список літнього читання”, який був повністю згенерований ШІ-моделлю. І частини тих книжок просто не існує. Це була “галюцинація” ШІ, яку ніхто не перевірив. І якщо вже таке роблять провідні видання Америки, значить, ця проблема дійшла до всіх рівнів. Це вже не щось маргінальне, це наша реальність.
Я думаю, частково це можна лікувати, принаймні в корпоративному середовищі. І я хочу цим займатись професійно: допомагати великим компаніям аналізувати, як налаштувати всередині фільтри та механізми перевірки інформації. Хто і де в компанії слідкує, щоб фейкова інформація не потрапила всередину і не спотворила їх дані, аналітику та стратегічні висновки. Має бути структура, в якій буде закладено, що є той, хто зупиняє потік дезінформації ще до того, як вона почне розповсюджуватися і впливати на роботу організації. Колись Пітер Померанцев у нас вдома сказав мені, що, якщо дезінформація потрапляє одного разу в голову, витягнути її звідти вже неможливо. Тому зупиняти треба на вході.
На сьогодні вже, наприклад, існують випадки, коли деякі юридичні фірми спиралися в суді на неіснуючі прецеденти. Тому що в американських корпораціях роками ключовою цінністю була швидкість реакції. Бо час це гроші. Якщо ти можеш зробити щось швидше, ніж інші, ти виграєш.
Але якщо ти заради швидкості замість аналітиків використовуєш мовну модель, і не перевіряєш, що вона тобі видає, якщо ти реалізуєш тільки швидкість і не враховуєш якість, то ти вже в викривленій реальності.
Таке відривання від реальності дуже небезпечне. І краще б ми зупинилися раніше, ніж допустили якесь величезне фіаско просто через зневагу до інформації.
І тут я хочу трохи розвернути нашу розмову знову до книжок і тілесного досвіду. Я вважаю, що читання саме фізичних книжок залишиться однією з небагатьох практик, яка відрізняє нас від LLM-моделей. Ми вже не швидші за них, не розумніші, але…
Десь півроку тому я слухала подкаст із американською філософинею. Вона казала: останнє, що в нас залишилось, це те, що ми втілюємо досвід у тілі. Ми embodied beings (втілені істоти), у нас є тіло, ми відчуваємо, ми маємо вразливість. І це, можливо, те, за що ще варто триматися.
Дмитро: Ми ніби стоїмо на своєму маленькому острові, який складається з нашого власного досвіду, книг, та рефлексій. І коли ми читаємо, спираємося на реальні, а не вигадані думки моделей, на власне тілесне відчуття – ми розширюємо свою сушу реальності. А коли немає прив’язки до реальності – немає на що спертися.
Мій висновок із цих кейсів: ми можемо розвиватися лише тоді, коли не втрачаємо зв’язку з реальністю. Ми повинні контролювати цей відрив, а не просто плисти в ньому.
Навіть найкрутіша інновація має шанс на життя лише тоді, коли вона вкорінена, коли вона пов’язана з реальністю, з людським досвідом, із тілесністю, із минулим.
Соня: Саму інформацію LLM й без нас вже може генерувати у великій кількості. Але як антрополог, я вважаю: не весь людський досвід піддається квантифікації. Не все можна перетворити на нулі і одиниці.
Наприклад, біль. Так, це медична категорія, але антропологія теж її вивчає: як люди повідомляють, розповідають про нього. В американських лікарнях, в приймальних відділеннях використовується така система: ти проходиш і тебе просять оцінити біль від 0 до 10. Якщо ти кажеш “4”, то про тебе, умовно кажучи, забувають і повернуться до тебе за годину, так як твоєму життю згідно твоєї власної оцінки нічого не загрожує. Бо “4” – щось несуттєве, не надто тривожне. Тому якщо хочеш, щоб звернули увагу, кричи “10”, мовляв, “нога відпала, допоможіть!”
Але вже є чимало антропологічних досліджень про те, що ця шкала хибна. Людині, яка живе з сильним хронічним болем усе життя, “4” може бути її найкращий день. Зазвичай у неї “7”, а сьогодні “4”, значить, полегшення. Або візьмімо ультрамарафонця. У нього “4” – рівень болю, з яким він бігає щодня.
Думаю, якщо спитати українського ультрамарафонця Олександра Скорохода, то виявиться, що він якось інакше відчуває біль і дискомфорт, ніж я.
Дмитро: Коли я бігав марафон, то вже після кількох годин бігу відчував майже кайф.
Соня: От бачите, а я не бігаю взагалі. Мені це зовсім незрозуміло. І єдине, як я можу вас зрозуміти – прочитаю книжку, де добре описано біг. Бо я вам, звісно, вірю, але як людині, яка ніколи не відчула в бігу нічого приємного, мені це складно уявити. А книга від автора-експерта, який це пережив, та якому я буду довіряти, допомагає це зробити.
Я думаю, що багато чого в нас ще тримається на тому, що ми – тіло, в якого велика і розумна голова. Ми народжуємося абсолютно безпомічними, і нам потрібен рік тільки на те, щоб просто навчитись ходити. Але ми все ще здатні, наприклад, взятись за ручку і писати. І це те, чого LLM ще не вміє. Можливо, колись навчиться. Але саме цим і займається тілесна філософія. Вона досліджує, як наше тіло формує наше мислення і як фізичний досвід стає основою для розуміння світу.
І ще одна тема, яка повертає нас певним чином до книг і досвіду, який ми можемо з них набути. Одного разу у нас виступив з лекцією Ван Джонс, партнер Андерсона Купера з CNN, і говорив про те, що зараз найбільший розрив в американському суспільстві навіть не між поколіннями чи расами, а між хлопцями й дівчатами віком від 18 до 29 років. Тобто буквально всередині одного покоління: більшість дівчат дуже ліві, а більшість хлопців дуже праві. І це реально новий, дуже чіткий вододіл, новий конфлікт, який стає однією з найбільших соціальних проблем сучасної Америки.
І я постійно усіх питаю: чому? Я кажу: подивіться, історично найпродуктивніша партія, яка щось справді створює – партія між чоловіком і жінкою, з якої з’являється дитина. Це біологічно, географічно, історично єдина модель, яка стабільно працювала.
А якщо ми зараз маємо такий жорсткий поділ та конфлікт, то питання: як нам далі співіснувати? Як повернутися до партнерства, в якому є співжиття, а не постійний конфлікт?
Дмитро: У цьому контексті питання вже навіть не просто про розбіжності. Якщо так далі піде, дітей не буде.
Соня: І я вважаю, що книжки, чужий досвід – мають навчити нас розмовляти один з одним. Бо дитину в офісі за допомогою GPT не народиш.
Для мене ця тема болюча, бо я якраз у тому віці, коли шукаєш партнера, коли друзі починають створювати сім’ї. І я справді хочу бачити, як вони стають ближчими один до одного, щоб у моєму оточенні було багато весіль.
Книги можуть дати нам досвід розуміння іншого. Вони повертають нам нашу тілесність через чужий досвід. Я вже казала, що не люблю бігати, в мене немає досвіду отримання задоволення від цього виду спорту. Але я читала книгу Муракамі “Про що я говорю, коли говорю про біг”. Він бігає довгі дистанції. І як талановитий письменник, він дуже детально описує, наприклад, як краплі поту відчуваються на шкірі. Настільки живо описує, що виникає бажання піти в спортзал. Бо це відчуття живе, тілесне.
Я вірю, що попри всі LLM-моделі, інформаційні потоки та сучасні технології з нами залишиться книжки. І саме вони даватимуть нам опору на досвід інших, живих, втілених людей.
Соніна колекція книг “про кросівки”, 2020 рік (наразі вона ще більша).
Фото з сімейного архіву сім’ї Рашкован
