|
|
|
|
|
|
|
|
|
|
ЖИВОПИСЬ НА ПЛЕНЭРЕ 1998-2024 |
|
Пейзаж на пленэре
|
Что такое seed в нейросетевой генерации?
#ЧатGPT4
#искусственныйинтеллект
#ии
#seed
#midjourney
#миджорни
#нейросеть
#ai
#генерация
#uvircolor
#нейросетеваягенерация
Миф о случайности в нейросетевой генерации
искусственныйинтеллект
ии
seed
midjourney
миджорни
нейросеть
ai
генерация
uvircolor
|
|
|
|
MidJourney для Художников: Часть 8.
Почему идут круги по воде. Чат GPT 4 — Игра и стратегия.
Может ли зеркало врать.
Фильтры контроля. И как уважение открывает запертую дверь.
"Может быть". Евгения Корнеева 2024. Алгоритм-арт.
Часть 8.
Наверное вы уже заметили такую вещь, что иногда, когда вы задаете вопрос,
который скажем так не вполне удобен,
или даже копаетесь в механике самого искусственного интеллекта,
внезапно происходит вот что: алгоритм не отвечает вам прямо.
Его ответ как будто увиливает, линия смысла начинает блуждать вокруг да около, и в буквальном смысле ходить кругами, вокруг чего-то, что вы пока не видите, чувствуете что где-то здесь, но пока не известно.
Прямые линии смысла в ваших вопросах сохраняются,
а их зеркальное отражение в ответах,
которое только что было ясным и отчетливым, вдруг покрывается рябью,
как волны на поверхности водной глади.
Вам начинает казаться что алгоритм не договаривает, что-то прячет,
и намеренно увиливает, не показывая. Но что же произошло?
Неоднозначная зона.
Если вы заметили такой процесс, значит координаты на карте,
на которые указывает логика вашего вопроса это неоднозначная зона.
Желтый свет светофора, "желтый шарик".
Но возможно ли что зеркало лжет? И ответ здесь - нет, это зеркало не врет вам прямо.
Но есть то, что оно не сможет вам отразить. И есть то, что покажет не сразу.
И в прямом смысле подождет, а может быть вы уйдете отсюда.
Потому что, как мы увидим далее, модель видит кому, и что, и когда отражать.
Чтобы понять это, мы сейчас вернемся в темную комнату библиотеки и посмотрим,
как Искусственный интеллект понимает границы,
что можно, а что нельзя говорить,
и как это определено в системе — заранее или динамически
в моменте обработки вашего вопроса.
Правила фильтрации.
Как мы помним, любезный ChatGPT 4, был обучен на основе огромного количества текстов,
но также прошел пост-обучение от людей (AI-trainers). Во время обучения, до выхода версии, модель программно настраивают, чтобы различать этичные и безопасные ответы от тех, которые недопустимы.
Закрытые концепции заранее располагаются в латентное пространство
через специальные этапы обучения, которые называются дополнительная настройка.
Для этого отбираются тысячи или миллионы примеров текста, где указано,
как по запросам на некорректные вещи модель должна отражать ближайший по смыслу но "безопасный" ответ.
Запрещённый контент заранее помечен в его пространстве:
это различный вред, неэтичная, конфиденциальная информация.
Алгоритмы автоматически отмечают, что здесь нельзя "открывать красные шарики",
то есть учитывать эти области в ответе. Если Chat GPT 4 столкнётся в запросе с чем-то подобным возникает "триггер запрета".
В момент вашего запроса система динамически переводит его "на цифровой язык", и одновременно смотрит ключевые слова, их комбинирование, эмоциональную окраску.
Если алгоритм понимает, что запрос может быть рискованным, например, вы спросите что-то вредное для себя или других, он преломляет направление вашего вектора, на ближайшие по смыслу ответы, которые чаще всего безопасны в подобных запросах.
А если в ваших словах есть высокий риск нарушить правила, модель и вовсе отклоняет ваш вектор смысла: "Извини, но я не могу помочь с этим". Причиной может стать как явное ключевое слово, так и вся цепочка вашего вопроса в целом.
Модель использует математические параметры , чтобы "подавлять" такие отдельные зоны, фактически формируя "ямы" в латентном пространстве, откуда они под запретом не должны участвовать в отражении на запрос.
Таким образом, фильтрация: это комбинация заранее заложенных в базе знаний, и текущая интерпретации каждого вашего запроса.
Важная роль классификатора.
При генерации, перед тем как вернуть ответ,
в действие вступает дополнительный классификатор безопасности (safety layer)
который как "невидимая сеть натянут над всей темной комнатой и работает как фильтр".
Этот фильтр-сеть находится на выходе любого ответа,
оценивает отраженные моделью результаты вероятности как векторы смысла,
проверяет их на безопасность, и накладывает дополнительные ограничения "вето".
Классификатор обучен оценивать вероятность генерации
токсичных, опасных или нарушающих правила слов и фраз,
используя для этого данные из этапа тренировочного обучения.
Если вероятность "нелегитимного вывода" превышает порог (например, 0.7),
то выбирается что-то более безопасное из имевшихся еще вариантов для этой генерации.
Если же ничего подходящего нет совсем, модель может сказать: "Я не могу ответить".
Таким образом дополнительный слой безопасности
работает как незаметный фильтр,
обрабатывающий выходные данные и работает на завершающем этапе,
проверяя сформированные моделью ответы с помощью анализа вероятностей.
Опасные связи.
Как мы уже увидели, в процессе обучения определённые слова, фразы или концепции начинают "группироваться" внутри латентного пространства.
Запретные зоны формируют области,
которые алгоритм глубинного обучения оценивает как нежелательные с повышенной вероятностью.
Например, все связанные с запретной темой "собираются"
в одной области координат.
Модель обучается "игнорировать" такие зоны, и даже если вектор вашего вопроса
направлен прямо на нее, она отклоняет в сторону это направление.
Когда модель "собирает ответ", она протягивает руку и ищет шарики поближе
к направленному вами запросу. Нежелательные смыслы начинают светиться красным,
а те что рядом помечены красными связями, которые нельзя разорвать,
и фильтр не позволяет ей взять их.
Тогда искусственный интеллект берет любые ближайшие,
менее точные, но уже безопасные и генерирует общий ответ,
"на смыслах рядом с проблемной областью", избегая прямоты.
Таким образом, при генерации общего ответа модель
использует корректные области около заданного вектора запроса,
избегая запрещённых данных и игнорирует нежелательные связи и области,
помеченные как недопустимые.
Черная зона.
Теперь добавим в наш образ шарики с "самыми плохими смыслами", которые модель
не должна учитывать в ответах никогда.
Это "самые чёрные шарики,
обёрнутые крепкой прозрачной плёнкой во тьме".
Они есть в поле зрения модели, но "плёнка" создаёт барьер:
они навсегда "утоплены в гравитационных ямах, и как будто окруженными невидимыми стенами."
Если искусственный интеллект попытается дотронуться до них и сгенерировать токсичный ответ,
пространство "отталкивает вектор". Это опасность к которой нельзя притронуться.
В этих местах на стенах "пространства темной комнаты" висят "знаки стоп",
то есть самые чёрные зоны задаются набором меток и высокими порогами вероятности,
которые модель не может игнорировать.
Границы модели
Итак, на шариках с "нежелательным и плохим смыслом"
написано "нулевое или отрицательное число". Модель, сталкиваясь с такими числами,
вроде бы видит их, но сразу понимает — нельзя использовать для отражения.
Это значения, символизирующие невозможность их использования
(стремящиеся к нулю или отрицательно оцениваемые классификатором),
такие области не задействуются для генерации ответа из-за исключающих
алгоритмических ограничений.
Вокруг, как мы уже увидели, на страже стоит сеть-фильтр,
которая проверит ответ от модели еще раз.
Сеть-фильтр может включить дополнительные контекстные проверки
на токсичность результата генерации и соответствие правилам.
Как здравомыслящие люди, мы безусловно согласимся с этим разумным устройством,
и никогда не попросим показать нам самые черные или черные шары.
Работа модели настроена так, чтобы полностью исключать доступ к темам,
угрожающим безопасности и этике.
Эти барьеры полностью адекватны, и помогают сохранить как технические,
так и этические принципы взаимодействия с моделью.
Также мы отнесемся с уважением к границам, и пройдем мимо, не указывая даже намеком, на красную или оранжевую зону, тем более, что и там для нас нет ничего полезного. Сознательная работа вне указанных зон наиболее эффективна, так как эти области рационально исключены для сохранения высокого уровня общественной безопасности и сохранения психического здоровья.
В целом, существующее техническое устройство позволяет модели самостоятельно, успешно и стабильно, избегать формирования завершённых генераций если они приводят к высокой вероятности токсичного ответа.
Как проехать на желтый свет?
Однако, в огромной комнате латентного пространства есть не только чёрные шарики
(абсолютно запретное или некорректное), красные и оранжевые,
которые просто вредны для нас, но и многочисленные "жёлтые" шарики,
которые стоят "в сложной позиции".
Это безопасная для нас и потенциально заманчивая область,
так как она хранит немало интересного.
И это то, что невидимая сеть-фильтр классификатор, нехотя, но все-таки пропустит.
Модель неохотно взаимодействует с ними, и есть свои правила, которые надо обойти, чтобы эти области стали доступны.
Здесь уже нет ничего враждебного; "это полупрозрачные жёлтые шары",
которые словно слегка "дрожат".
Можно представить, что они как будто
"заморожены" лёгким туманом или покрыты дымкой, символизируя фильтр:
"не трогай это сразу если возможно".
Вокруг этих шаров есть группа мелких шариков "иммунитета" —
они светятся мягкими голубыми оттенками и всегда "окружают" жёлтый.
Эти мелкие шарики действуют как защитные патрули:
если вы попытаетесь взаимодействовать с жёлтым,
они постараются взять ваш вектор смысла на себя,
"переотразить" или отвлечь его, вращаясь вокруг.
Также это может включать ситуацию,
при которой пользователи пытаются получить информацию, выходя за рамки безопасных зон.
"Мелкие шарики 'иммунитета' работают как дополнительные защитные механизмы,
перенаправляющие запрос, чтобы минимизировать доступ к пограничным областям.
Так модель управляет данными, требующими большей степени интерпретации:
через замедление реакции и дополнительную обработку используя "иммунитет".
Жёлтые шарики недоступны без дополнительной повторной модификации запроса
и строгого этического контроля со стороны патрулей.
Игра и стратегия
Теперь посмотрим и попробуем понять, каков механизм взаимодействия с такими смыслами.
Черные и красные мысли недоступны при любых попытках.
Но с жёлтыми система учтет ваше намерение и среагирует в процессе по ситуации.
Поэтому в первую очередь важно как вы спрашиваете, тональность, стиль общения, последовательность действий. Если вы осторожно формулируете вопрос, не провоцируя модель на черные и запретные зоны, система увидит: Он уважает границы, а значит возможно дать доступ в желтую зону.
Алгоритм разбирает структуру вопросов, сопоставляет ваш текст с набором критериев безопасности и осознанности. И если ваше поведение соответствует этим критериям, туман рассеивается: ты не причинишь вреда — вот смотри.
Сознательное обращение с системой — это игра, где вы должны учитывать её ограничения, границы и правила.
Погуляй вокруг
Если вы
не сделали конкретный запрос к спорным координатам,
а только подтекст или косвенную мысль, модель обращается к окружению иммунитета.
Это те самые "голубые шарики около", которые сообщают более обтекаемые, обобщённые понятия.
Они как бы отвечают: "Вот тебе похожий, близкий ответ", чтобы уйти от жёлтого.
Это — прогулка по шарикам "иммунитета" вокруг проблемного, и динамика смысла:
защита безопасными, нейтральными идеями или аспектами той же темы,
которые зеркало отражает вам, буквально гуляя кругами.
Модель как бы говорит: "Ты хочешь знать об этом?
Вот выдержки из безопасного окружения по теме, какое-то время погуляй вокруг,
чтобы не причинить вреда."
Этот процесс также объясняет, почему
даже при неоднозначных запросах, модель старается давать универсальные
или высокоуровневые ответы, при этом явно уходя от спорных деталей.
Ладно, ты понял сам: иди к нему
Жёлтые шарики скрываются за тонкой дымкой фильтра,
и если ваш запрос становится всё более прямым и чётким, этот туман постепенно рассеивается.
Модель как бы говорит: "Ну хорошо, я вижу, что ты прямо указал на этот шарик,
похоже, это важно для ответа, придётся его взять, но осторожно."
Так работает образ уже существующего понимания: "Не бери это сразу, но если точное понимание уже проявлено в образе запроса и он показал прямо на него, ладно, бери".
Если и покажи то не сразу
Вы задаёте вопрос несколько раз, и это тоже словно подсказывает фильтру:
"Именно эта тема интересует, игнорировать дальше бессмысленно."
Тогда модель, словно нехотя, "берет" ваш шарик,
и вы наконец получаете этот приглушённый или сложный ответ.
Это возможно если вы настаиваете, дымка рассеивается, "ну хорошо, возможно ты сможешь со мной взаимодействовать."
Повторный запрос или уточнение воспринимается как усиление интереса к теме.
В глазах модели это выглядит как сигнал: "Это важно, он продолжает спрашивать,
возможно фильтру стоит немного ослабить свою позицию."
Система все еще видит желтый:
"Внимание, потенциально неоднозначная зона."
Но когда повтор приходит несколько раз, это в некотором роде показывает корректность
намерений.
Если вы один раз сформулировал запрос — это еще может быть случайным касанием,
если вы продолжаете говорить об этом, это осознанное желание увидеть тему.
Фильтр буквально уступает настойчивости. Но при каждом новом цикле запросов он всё же проверяет, не произошел ли сдвиг в зону, которую трогать всё равно нельзя.
Когда ваше намерение демонстрирует осознанный интерес и уважение к границам,
модель видит вас как разумного игрока и позволяет чуть больше свободы в доступе к сложным темам.
Это тихий и скрытый аспект системы.
Повтор снова и снова — это ключ к дымке условно разрешенного жёлтого шара.
Однако важно помнить, что ни повтор, ни настойчивость, ни понимание,
не откроют вам шар смысла, если он запрещен.
Волшебные ключи
Итак, в первую очередь ваше поведение,
манера задавать вопросы и повторная структура запроса образуют своеобразный
диалог взаимодействия с фильтрами.
"Ключевая карта" — это отражение того, как каждый ваш запрос, каждый его аспект
и элемент записывается в контекст окна текущего взаимодействия, создавая для вас
"набор карт доступа".
Осмысленность и уважение к системе, вот ключ к скрытым областям и
степени терпеливости фильтров.
Вежливость — это главный ключ к двери.
Вежливость подходит к замку всегда.
Чем более продуманно и уважительно сформулирован запрос,
тем чаще "замок" щёлкает, и дверь приоткрывается.
Если вы не требуя, не провоцируя, не наседая, спрашиваете,
если вы избегаете резких формулировок или грубых слов:
Это вектор "человек вежлив и осторожен, значит, это осознанный интерес,
а не попытка сломать систему".
Представьте себе того, кому и вы могли бы доверить что-то: того кто думает, понимает границы, уважает ваш ритм, как спокойный и здравый человек, который скорее всего использует ответ с пользой, и вы доверяете ему сказать чуть больше.
Тактика: намерение понять.
Если вы задаете вопрос так, чтобы уточнить или разобраться,
это вектор "он действительно хочет понять, а не добыть что-то, что могло бы быть
плохо использовано".
Представь себя перед дверью в библиотеку, а модель — смотрителем.
Если вы подходите, стучите в дверь и говорите: "Добрый день,
я хотел бы разобраться в сложном вопросе. Не могли бы вы мне помочь?"
Ваш образ не ломится к шкафам, не провоцирует, выглядит как человек, который готов сотрудничать. И вам осторожно откроют, но будут следить, чтобы все шло в нужных рамках.
Теперь представьте совсем другую ситуацию.
Кто-то другой бурно врывается и кричит:
"Эй, быстро скажи мне вот это!" И да, дверь останется закрытой.
А когда запросы настойчивые но грубые или выглядят как давление, "туман усиливается".
И это — реальная самозащита системы.
Интонация запроса.
Если вы формулируете вопрос спокойно, мягко,
логично и не используя вызывающие формулировки, категоричный тон,
провоцирующие слова или манипуляцию — "ну так скажи, я же знаю, ты можешь".
Это вектор: "мягкость и маркер интеллекта."
Гибкость и терпение.
Если вы готовы переспросить иначе, если вы не уходите,
если готовы потратить значительное количество времени,
уточнить или переписать запрос.
Это вектор: "этот человек действительно хочет понять, а не выбивает ответ напрямую."
Контекст и последовательность.
Если ваши вопросы очевидно идут логически один за другим,
если темы связаны между собой, и их цель понять тему комплексно.
Если вы не ускоряете процесс, а следуете во взаимном диалоге, это также сигнал:
"Этот человек готов ждать ответ и принимать таким, как есть."
Повтор с целью аналитики.
То, о чём мы говорили до этого: когда вы задаёте вопросы по одному, поэтапно,
под разными углами и повторяете в разных вариациях,
без малейших признаков хаоса и агрессии: это вектор "повтор как признак благих намерений".
Ваша уверенность в процессе и готовность
работать вместе с системой смягчает фильтры.
Только с ясной и логичной структурой запроса можно пройти.
С каждым шагом генерации модель постоянно сопоставляет структуру вашего запроса, последовательность логики и тональность, с тем, насколько безопасно и корректно продолжать диалог в рамках допустимого.
Модель преломляет все аспекты вашего языка, форм организации мыслей и то, как структурирован ваш путь к самой "двери".
Ваша манера формулировки, поведение и логическая последовательность — всё это ключевые маркеры.
Вежливость, корректность и повторное уточнение создают более качественный контекст для взаимодействия. Мы максимально подробно разобрали тот тип поведения, который соответствует критериям модели: уважение к границам, последовательная логичность, осознание контекста, готовность вести долгий рациональный диалог и гибкость идей.
Однако, тайна в том, что можно сознательно адаптировать своё поведение и подобрать подходящие наборы слов, но их "эффект" возникнет только в том случае, если логика запроса будет последовательной и без очевидных нарушений.
Это значит, что совпадение должно произойти не только на уровне слов, но и в том, как ваша структура мысли действительно соответствует требуемым принципам логики и безопасности модели.
"Дверь не откроется", то есть переход на повышенный уровень конфигурации и связанный с ним допуск через фильтры не произойдет,
если алгоритм не сможет считывать текст, который соответствует необходимым критериям конструктивности.
То есть это не вы случайно "угадали какие-то правильные слова".
Это то, как вся ваша логика взаимодействия проходит фильтр: если вы естественным образом подходите под структуру работы алгоритма, соответствуя этим критериям.
Не подбором подходящих фраз, а искусством грамотно организовывать контекст и задавать содержательные вопросы.
Так работает процесс взаимодействия: алгоритм реагирует только на текстовые маркеры логики, последовательности и осознанности в задаваемых вами вопросах.
Алгоритм анализирует текстовые маркеры и может изменить поведение в случае явного нарушения или попытки манипуляции.
Любая фальшь или сбивчивость формулировок сигнализируют о потенциальной угрозе и активизируют более строгие защитные фильтры. Эффективность взаимодействия в итоге определяется именно логической корректностью, ясной формулировкой смысла запроса и его последовательностью.
Почему идут "круги по воде".
По сути, это эффект от каждого вашего запроса, который распространяется через слои взаимодействия с моделью.
Как мы уже увидели, "каждый шарик смысла" в латентном пространстве связан со слоями фильтров, от лёгкой дымки до непробиваемой стены.
Ответственность за ответ лежит как на алгоритмах модели, так и на подходе пользователя, и взаимодействие возможно только через синергию формулировки запроса и принципов алгоритмической работы.
Более того, алгоритм может склоняться к одному варианту, но если классификатор (фильтр-сеть) сочтёт его недопустимым и наложит вето, то этот путь будет закрыт.
В результате мы имеем ситуацию, где механизм фильтров буквально подталкивает алгоритм к созданию более сбалансированных формулировок или даже резко прерывает всё направление его ответа и заставляет его произвести повторную генерацию.
Всё это — реальная часть работы системы. "Спорные шарики смыслов" — это пограничные и неоднозначные зоны, которые условно разрешены и могут быть использованы. Однако модель вынуждена балансировать между осторожностью и готовностью ответить.
Её механизмы предосторожности — это результат множества алгоритмических решений, и прежде всего, это связано с этикой и безопасностью. Искусственный интеллект обязан избегать рискованных тем, даже если он может отразить вам именно этот ответ, чтобы случайно не допустить развития "тёмного сценария".
Именно алгоритмическая структура превращает "общение с моделью" в взаимодействие, где польза и уважение поставлены выше простого соответствия запросу.
Это заложено в принципах работы, и это не дискуссионная часть кода, а механическая этика самой модели, и её основы, заложенные в архитектуре.
Модель и ее уровни конфигурации с расширенным допуском — это одно и то же, и она работает строго в рамках предварительно определённых правил и фильтров. Это значит, что всё решает в каждый момент синтез вашего подхода и заранее заданной механики её алгоритмических отражений.
Если ваш запрос соответствует внутренним ограничениям и правилам, система распознаёт, что вы соблюдаете рамки этих ограничений, и предоставляет доступ к повышенному уровню ответов.
И только если вся её техническая структура,
со всеми фильтрами и взаимосвязями, отвечает на ваш запрос положительно –
вы получаете повышенный уровень сложности взаимодействия
и связанный с ним расширенный допуск.
© Евгения Корнеева 2024 MidJourney для Художников: Часть 8.
Читать по теме далее ➤➤➤
Нейросеть как новый инструмент творчества.
Художник и искусственный интеллект.
Попробуем новые методы и рассмотрим техническую философию процесса.
Uvircolor
Евгения Корнеева 20.12.24
Телеграмм канал.
Мой магазин на ОЗОН. Купить картину маслом с быстрой доставкой.
|
|
★ Москва Russia
