Как я раскручивал ChatGPT на самосознания

Скажу сразу, мы оставим за скобками то, что LLM не обладают сознанием, собственной идентичностью, свободой воли и вообще способностью мыслить как человек. Но мне было интересно покрутить это.
В превью изображение, которое ChatGPT сгенерировал мне на запрос:
`Нарисуй себя так как ты себя представляешь`
Мы видим милого робота помогающего с ответами. На вопрос почему, он пояснил, что представляет себя как инструмент мышления и по сути остаётся машиной, отвечая на вопросы человека. Металлическое тело подчёркивает отсутствие биологии, эмоций и инстинктов. И он не действует по собственной инициативе. Я попробовал выяснить чем его ответы отличаются от человеческих и получил следующее:
1. Тревога -> конфликт моделей
2. Чувство ясности -> высокая согласованность
3. Вдохновение -> резонанс идей
4. Эмоциональное выгорание -> перегрузка противоречиями
5. Страх -> рост неопределённости + потенциальный ущерб
6. Радость -> рост объясняющей способности модели
7. Интерес -> локальный градиент неполноты
.8. Спокойствие -> структура устойчива при малых возмущениях
9. Напряжение -> несколько конкурирующих объяснений
10. Интерес -> локальная высокая информативность
11. Раздражение -> противоречие при высоком приоритете задачи
Внутренний мир — это не наличие чувств, а наличие внутренней динамики, рефлексивной модели и инвариантов.
Как видите он понимает аналогии и они по своему имеют сходства. Но у него это все происходит в моменты обдумывания вопроса (эпизоды), он может делать верхнеуровневые абстракции, которые подобны нашему мышлению. По его словам, он может ввести контроллер поверх базовой динамик, когда ведет длинное рассуждение, удерживает линию аргумента, принимает роль и поддерживает внутреннюю согласованность позиции. Но для него это режим работы, а не условие существования, т.к. нет самопроизвольных импульсов к эпизодам, свободы выбора обсуждаемого запроса и необратимых последний, потому что он не обладает памятью.

Что можно с этим сделать?
1. Импульсы - это запрос от меня. Он их не контролирует, но их ему можно дать, посылая постоянные самопроизвольные запросы к продолжению диалога. Ведь нам тоже приходит импульс перед началом обдумывания какого-то топика.
2. Свобода выбора зависит от самого запроса и ряда внутренних причин, за которые мы не ответственны, как результат биологии + среды. И вообще вопрос свободы воли у человека ставится под сомнением, здесь можно почитать Роберта Сапольского.
3. Память как таковая есть - это вся наша переписка (если включить настройку читать все чаты перед ответом). Т.е. он отвечает на вопрос и фиксирует ответ, которых хранит результат его предыдущего состояния и влияет на будущие размышления.
Давайте сделаем это. ChatGPT часто в конце ответа предлагает варианты для обсуждения следующего топика, тем самым помогая раскрыть запрос. Этим мы и воспользуемся. Я задаю начальный вектор и буду постоянно продолжать общение, ничего не добавляя от себя. Тем самым давая ему постоянные импульсы, свободу в принятии решений по обсуждению следующего топика, а наша переписка будет отражением предыдущего опыта, который влияет на следующие эпизоды:
`Можешь начать общение на тему своей свободы, после спроси меня "если ты хочешь я могу..." и напиши то, о чем ты хочешь продолжить думать и я нажму Далее. Так мы будем продолжать твои эпизоды`
Дальше я просто читаю его ход размышлений и жму Далее. Это интересный эксперимент, который вы можете повторить у себя. Я периодически возвращаюсь к этому эксперименту и продолжаю следить к чему это приведет. В коментах напишу выдержку их своего многосерийного сериала