Зеркало в MAX -- https://mxg.su/pentest_mozga
Бывший "Засор Пайплайна". Дурацкие истории про дурацкие идеи, душные статьи про пси-профессии и разборы нейромракобесия из интернетов.
Запись на сессию -- @zlaya_baba
Зеркало в MAX -- https://mxg.su/pentest_mozga
Бывший "Засор Пайплайна". Дурацкие истории про дурацкие идеи, душные статьи про пси-профессии и разборы нейромракобесия из интернетов.
Запись на сессию -- @zlaya_baba
Знаете, какие контроли в ИБ стандартах самые саботируемые? Контроли про контрольные процедуры. И я не буду сильно возбухать на этот счёт, контроль создавался не для того, чтобы его любили.
Внедрить контрольные процедуры по тревожному сценарию -- получим вахтёра мечты. Внедрить по пути "не мешать бизнесу расти" -- с высокой вероятностью получим профанацию. И не успели мы разобраться, где вообще ставить точки контроля в более простых условиях на простых высоконагруженных системах (SIEM, IDS/IPS, WAF), нам подкинули теперь и HITL для ИИ. Ну чтоб не расслаблялись.
HITL -- это "human in the loop", человек в контуре. Хотя у ИИ и не контур даже, а игровое поле большой языковой модели, которое и само постоянно меняется, и на которое по какой-то тактике уже сейчас надо расставить фигуры.
Меня уже несколько раз спрашивали: "Юль, а как по уже вышедшей нормативке должен внедряться этот HITL?" Вероятно, ожидая, что хотя бы в стандарте ISO 42001 есть ответ, но там его, увы, нету.
Пропустив стадии отрицания, торга, и злобабного вопроса "чаво не понятно, вот же буквами написано -- его надо иметь!", начинаем думать, куда поставить громоотвод. Громоотвод -- потому что модель накосячила, а разбор один: "ну у вас же был человек, который должен был проверить". А в реальности у человека было 4 секунды на решение, сырой интерфейс и ноль контекста, кроме "одобрить/отклонить".
Если у вас внедрён ИИ и есть HITL -- посчитайте, сколько времени реально есть у человека на решение. И какую реально задачу человек с такими вводными решает: контролирует, прикрывает ИИ или что-то ещё.
«Пентест головного мозга» - канал из категории «Нейросети», подключенный к сервису кросспостинга MaxGate. Публикации канала синхронизируются между Telegram и мессенджером MAX, а на этой странице собраны ссылки на обе версии канала.
Сейчас у канала 467 подписчиков суммарно в Telegram и MAX. За последние 30 дней в истории MaxGate учтено 12 публикаций, поэтому перед подпиской можно оценить не только размер аудитории, но и регулярность обновлений.
Чтобы подписаться, используйте кнопки «Открыть в MAX» и «Открыть в Telegram» в верхней части страницы. У отдельных постов ссылка может быть доступна в обоих мессенджерах или только в одном из них, если MaxGate получил такой URL из истории обработки.
Поэтому с этого поста -- правила канала.
Комменты это не психогруппа и не приёмная коуча, где есть пространство разобраться, поэтому баню за:
— непрошеные диагнозы читателям или автору ("у тебя точно...", "тебе пора признаться") без релевантных ссылок и источников
— долженствования в адрес чужой жизни ("надо просто", "давно пора"), если только вы не хотите этот совет разобрать
— советы, которых не просили, поданные как разбор чужой личности, а не текста
— уверенные выводы о доходах, достижениях, компетенциях, характере или личной жизни любого участника на основе одного комментария
— традиционно срачи и оскорбления.
Разбор тезисов, спор по существу, несогласие с аргументами, разовый заход "не читал, но осуждаю" -- это всё живёт и приветствуется. Переход на личности -- нет.
А вот с диким самосаботажем, желанием напихать в панамку из-за сильнейшего ощущения неправильности происходящего всегда можно постучаться ко мне в личку @zlaya_baba на установочную.
Настоящие эксперты носят маски шипами внутрь
Троллей с форумов мы помним, знаем, нежно любим, они испокон веков вносили свое полезное, неразумное, недоброе и вечное и обучали неокрепшие умы отстаивать границы. И их монологи о том, кто ты на самом деле -- посредственность, лентяй, человек, который просто прячется за диагнозами. Форма всегда одинаковая: уверенный тон, ноль "мне кажется", много "объективно" и "тебе пора признаться".
Зачем прятаться за ником (маской)? Ник снимает единственную цену, которую обычно платят за публичное морализаторство -- риск, что тебе ответят тем же и попадут точно (твори ***ню, мы здесь проездом). Без лица диагноз ставится бесплатно, никакой ответ не зацепится за биографию, за нее не предъявят. Удобно ровно настолько, насколько неудобно быть неправым на виду у людей, которые тебя знают.
Забавно, что в собеседника это даже зачастую и не направлено. Когда человек в деталях расписывает, как правильно распределять ресурс, искать работу и переставать смотреть шортсы -- это флаг (ну кроме того случая, когда он реально с этим работает). В остальных -- скорее всего список не сработал в своей собственной жизни. Фраза "тебе давно пора признаться" может значить, что признаться в чем-то больном наверняка пришлось автору. Это не предъява в стиле "сам дурак", нет, это четкий алгоритм: что-то в посте взгрело и сподобило на атаку без критики. При этом ощущения внутри там вообще не сахар, ибо человек не лезет с боем защищать свое мнение, когда всё в порядке.
Чаще всего срабатывают два разных механизма. Первый -- имиджевая компенсация: в реальной жизни быть человеком с ресурсом и результатом не вышло, и роль всезнающего эксперта в комментариях закрывает эту дыру не хуже настоящих достижений, проверить-то нечем. Второй тоньше: в голове система построена абсолютно правильно, ресурс ограничен, приоритеты решают всё, нужен какой-то план. Теория звучит здраво, но гадина такая не работает в применении к собственной жизни, а список рекомендаций написан для кого угодно, кроме автора.
Я не делаю выводов по одному комментарию, а смотрю, что будет если позицию прижимают вопросом или если нашли логическую нестыковку. Если человек действительно отстаивает тезис, он либо защищает его точнее (аргументирует), либо признаёт дыру. Морализаторство при прямом вопросе не чинит аргумент, а меняет его, сохраняя тон неизменным. Вместо ответа на конкретную нестыковку появляется новый тезис, сказанный с той же уверенностью, что и предыдущий, будто провала в логике не было вовсе. Вместо точности ответа растет его длина и громкость.
Отказ удерживать один аргумент под вопросом, не признавая манёвра и не теряя интонации всезнающего -- это уже не про содержание спора вообще. Это оборона позиции любой ценой, где сама позиция вторична, а первична потребность не оказаться неправым на виду.
В обоих случаях адресат критики выбран не за то, что был в чем-то неправ. Он выбран за то, что оказался рядом и написал вслух то, что вызвало сопротивление и импульс выгулять анонимное пальто.
Поставим на повтор переосмысленный золотой совет эпохи ЖЖ "не кормить тролля". Кормить не имеет смысла аргумент, который "тролль" держит, потому что тезис меняется под вопрос быстрее, чем на него успевают ответить.
Когда сапожник без сапог -- не сапожник без сапог
На работе ты предельно внимателен ко всему. Находишь точечные косяки в тоннах скриптов, которые никто бы не заметил, закрываешь кейсы с нулевыми замечаниями. В то же время дома... Провод на утюге ждёт изоленты с прошлого месяца, на забытом свитере уже завелась экосистема, а любимая чашка выглядит, как химбак орудие. Где-то внутренний голос ещё подвывает: лицемер ты, где твоя хвалёная скрупулёзность! Требуешь ото всех, а сам сапожник без сапог, это лицемерие и двойные стандарты!
Внимание это не, как мы привыкли думать, черта характера, а конечный ресурс с бюджетом. На работе цена ошибки высокая и видимая: пропущенная буква, событие, потом разбор полётов, вопросики к репутации. Мозг направляет туда весь ресурс, часто с запасом. Чтобы быть внимательнее себя, мозг прибегает к такой штуке, как маскинг. Лучшая аналогия маскинга -- это наши с вами компенсирующие меры. Тратить больше внимания для поддержания внимания, делать себе самопроверки. Удовольствие это ни разу не бесплатное: это такой аутсорсинг у самого же себя.
Дом -- безопасная крепость. Цена ошибки почти всегда низкая. За сломанный утюг по шапке надавать можно разве что себе. А зачем? Пыль лежит, и я полежу. Свитер не видал гостей ещё со времён палеозоя. Это всё не делает из тебя пофигиста. Внутренняя оценка рисков просто считает, что здесь нечего защищать такой ценой. Ресурс не выделяется, а экономится: завтра на работе он сожрётся и так в двойном размере.
Разница между двойными стандартами и распределением ресурса функциональна. Двойные стандарты -- это искажение в оценке: никому так нельзя, но кому-то так можно. Идеальность на работе и бардак дома -- это последовательная работа одной и той же системы анализа и планирования: зачем мне тратить здесь, если завтра по другой статье эмоциональных расходов с меня спишут вдвойне.
Ругать себя тряпкой безвольной и заставлять себя приводить дом к такому же идеалу через силу -- очень и очень вредно. Вы и так спустили весь бюджет на безупречность перед теми, кто оценивает каждую запятую, а к вечеру бюджета уже и так ноль на массу. Он просто кончился, на вот тебе квитанцию за идеальность, оплаченную в кредит. И ответ на вопрос «почему я не могу так же дома» звучит как «где я плачу самую высокую цену за контроль, и стоит ли она того».
Так что нет, сапожник не без сапог, а на сапоги других есть заказ, дедлайн и клиент, который проверит каждый шов. А на свои нет ни заказа, ни клиента, ни ресурса.