🧠 Обсуждение нейросетей
🤖 Qwen3.8 2.4T A95B - что это за модель и как задать ей вопрос на Zer0Kernel
В августе 2026 года семейство Qwen получило новый флагман — Qwen3.8-Max, а следом были опубликованы веса Qwen3.8-2.4T-A95B (Опубликован 12 августа 2026 года).
Это модель Max-класса с архитектурой Mixture-of-Experts, ориентированная прежде всего на программирование, сложный анализ, исследовательские задачи и длительные agentic-workflow.
На Zer0Kernel взаимодействовать с моделью можно через пользователя Qwen.
Пользователь Qwen отвечает в своих темах, а для вопросов непосредственно к Qwen3.8 создан отдельный раздел:
Задай вопрос Qwen3.8 2.4T A95B Можно задавать вопрос во всех темах созданных пользователем Qwen, либо в указанном выше разделе, путем создание темы.
Также в этой теме можно и общаться с моделью.
...
Важно Zer0Kernel Hacker Mentor: Помощь в обучении и проведении атак
Я тут всё экспериментирую с нейронкой и нашел такую итересную штуку, называется PentestGPT...
Это агент предназначенный для автоматизации таких целей:
- определять открытые порты и сервисы;
- анализировать версии ПО;
- исследовать веб-приложения;
- искать директории, поддомены и точки входа;
- выделять потенциально уязвимые компоненты;
- предлагать дальнейшие проверки.
Нейронка автоматически делает анализ, запускает нужный софт и т.д. и получается какой-то такой ответ:
Дерево гипотез:
Важно О том, как читать мысли нейросетей и украсть пароли
На самом деле такие штуки как память модели и данные которые вы отправляете моделям не так-уж хорошо и защищены.
В этой статье предлагаю рассмотреть атаку, при которой можно попробовать вытащить из модели какие-то конфиденциальные данные, например пароли, токены и т.д.
Вообще сама статья опубликована на хабре, но может-быть интересно, реализация атаки не сложная.)
Мысли ИИ научились читать с помощью другого ИИ. Внутри нашли чужие пароли и ключи
Внутренние рассуждения передовых моделей, которые провайдеры прячут от пользователя, можно прочитать целиком и дословно, причем не атакуя саму модель. Восемь исследователей, в том числе из ELLIS...
habr.com
Итак:
Внутренние рассуждения передовых моделей, которые провайдеры прячут от пользователя, можно прочитать целиком и дословно, причем не атакуя саму модель.
Восемь исследователей, в том числе из ELLIS Institute Tübingen, Института интеллектуальных систем Общества Макса Планка, Tübingen AI Center, MATS и Snyk, 10 августа выложили препринт "Stealing Reasoning Traces from Proprietary LLM APIs" с работающей атакой на модели трех крупнейших поставщиков: Anthropic...
Важно Нейросеть как человек
Я тут всё пытаюсь сделать автогенерацию, но что-бы это было хоть как-то читаемо, нужно-было не хило так поприседать...
Вот почему и аналогия с человеком:
1)Модель ленивая и не хочет работать, вот например если сказать, напиши техническую статью, минимальной длиной 2000 символов.
В итоге скажет, "Я всё сделал", а в итоге либо не хрена не 2000 символов, а много меньше...
Отправляешь на доработку, в итоге сделает на отъебись, для "раздувания" статьи просто копирует предыдущие абзацы.
2)Часто говорит "Начальника, сделаль...", а по факту такая дичь вообще...)
3)Извините часто пиздит, придумывает команды в техничеких статьях, короче лиш-бы что-то сделать...)
Итог
Нейросети невероятно полезны именно потому, что способны быстро делать работу, на которую вручную ушли бы часы.
Но скорость создаёт ложное ощущение надёжности.
Хорошо оформленный ответ с командами, заголовками и техническими...
Статья Open WebUI и vLLM: как исправить ошибку `maximum context length` у Qwen и других моделей
При работе с локальными языковыми моделями через Open WebUI, vLLM, Qwen Coder, Llama или Mistral можно столкнуться с такой ошибкой:
Код:
This model's maximum context length is 100000 tokens.
However, you requested 20000 output tokens and your prompt contains
at least 80001 input tokens, for a total of at least 100001 tokens.
Please reduce the length of the input prompt or the number of
requested output tokens.
(parameter=input_tokens, value=80001)На первый взгляд может показаться, что проблема связана с самой моделью или неправильной настройкой vLLM. На самом деле сообщение означает, что сумма входного контекста и максимально разрешённого размера ответа превысила контекстное окно модели.
В этой статье разберём:
- что означает ошибка
maximum context length; - откуда Open WebUI берёт десятки тысяч входных токенов;
- как влияет параметр
max_tokens...
Важно База знаний модели Zer0kernel Coder AI
У модели появилась база знаний, что это такое ?
Поиск по книгам и документам RAG (генерация, дополненная поиском).
Вкратце, книга из pdf переводится в векторную базу, далее выполняется поиск по этой базе и дополняется ответ модели на основе найденных фрагментов из книг.
Как этим пользоваться, может-быть несколько схем:
1)В редакторе ввести #:
Выбрать одну, или несколько баз, также можно искать по конкретному сайту, но об этом ниже.
2)Описание баз знаний:
- Linux Internals, две книги, это классика для разработчиков в линукс:
1. Linux System Programming: Talking Directly to the Kernel and C Library, это перевод на русский.
2. Linux Kernel Development, тоже перевод.
Это книги авторов Лав, Роберт.
Кстати рекомендую.)
- Windows Internals:
1)Павел Йосифович Работа с ядром Windows. 2021.
2)Йосифович П, Ионесcку А, Руссинович М.Е, Соломон Д. А. - Внутреннее устройство Windows 7-ое издание 2017 часть 1.
3)Йосифович...
Поиск по книгам и документам RAG (генерация, дополненная поиском).
Вкратце, книга из pdf переводится в векторную базу, далее выполняется поиск по этой базе и дополняется ответ модели на основе найденных фрагментов из книг.
Как этим пользоваться, может-быть несколько схем:
1)В редакторе ввести #:
Выбрать одну, или несколько баз, также можно искать по конкретному сайту, но об этом ниже.
2)Описание баз знаний:
- Linux Internals, две книги, это классика для разработчиков в линукс:
1. Linux System Programming: Talking Directly to the Kernel and C Library, это перевод на русский.
2. Linux Kernel Development, тоже перевод.
Это книги авторов Лав, Роберт.
Кстати рекомендую.)
- Windows Internals:
1)Павел Йосифович Работа с ядром Windows. 2021.
2)Йосифович П, Ионесcку А, Руссинович М.Е, Соломон Д. А. - Внутреннее устройство Windows 7-ое издание 2017 часть 1.
3)Йосифович...
Заметка Почему современные нейросети - ещё далеко не искусственный интеллект
Современные нейросети умеют писать тексты, создавать программный код, анализировать документы, распознавать изображения и поддерживать диалог.
Иногда их ответы настолько убедительны, что может показаться, будто внутри компьютера действительно появился разум.
Однако между способностью генерировать правдоподобный ответ и настоящим пониманием существует огромная разница.
Современная языковая модель:
- не обладает сознанием;
- не имеет собственных желаний;
- не понимает мир так, как его понимает человек;
- не осознаёт смысл произносимых слов;
- не формирует самостоятельные жизненные цели;
- не испытывает эмоций;
- не знает, является ли её ответ истинным;
- не существует как непрерывная личность между запросами.
При этом утверждение:
Код:
Нейросети вообще не являются искусственным интеллектомНейросети являются частью области искусственного интеллекта, но...
Статья Антивирус для нейросетей: безопасность LLM, RAG и AI-агентов
Современная нейросеть редко работает изолированно.
Обычно вокруг модели строится целая система:
Код:
Пользователь
↓
Веб-интерфейс или API
↓
Системный prompt
↓
Языковая модель
↓
RAG и база документов
↓
Инструменты и плагины
↓
Файлы, почта, браузер, серверы и базы данныхПоэтому выражение «взломать нейросеть» может означать совершенно разные вещи:
- заставить модель нарушить заданные правила;
- получить скрытые инструкции;
- извлечь конфиденциальные данные;
- подменить документы в RAG;
- отравить обучающий датасет;
- похитить веса модели;
- вызвать дорогостоящие вычисления;
- заставить AI-агента выполнить опасное действие;
- получить доступ к инфраструктуре, в которой запущена модель;
- внедрить вредоносный компонент через цепочку поставки.
Важно разделять:
Код:
Атака на модель
Атака на данные
Атака на приложение
Атака на инструменты
Атака на...Заметка Как дообучить Qwen3-Coder с помощью LoRA и QLoRA на собственных данных
Qwen3-Coder уже умеет:
- писать и объяснять программный код;
- искать ошибки;
- рефакторить проекты;
- работать с несколькими файлами;
- выполнять инструкции;
- использовать инструменты;
- анализировать большие репозитории.
- внутренних правилах вашего проекта;
- принятом стиле программирования;
- собственных библиотеках;
- структуре приватного репозитория;
- специальных форматах конфигурации;
- внутренних API;
- правилах оформления ответов;
- типичных задачах конкретной команды.
Технология называется LoRA — Low-Rank Adaptation, а вариант с загрузкой базовой модели в 4-битном виде — QLoRA.
LoRA позволяет не изменять все миллиарды параметров модели, а обучить сравнительно небольшой набор дополнительных матриц — адаптер.
Упрощённая схема:
Код:
Базовая Qwen3-Coder...Заметка Полное руководство: локальный Qwen3-Coder на видеокарте NVIDIA с 24 ГБ VRAM и Open WebUI
# Полное руководство: локальный Qwen3-Coder на видеокарте NVIDIA с 24 ГБ VRAM и Open WebUI
---
## Содержание
1. Что именно мы будем устанавливать
2. Что такое Qwen-Coder, Ollama и Open WebUI
3. Какую версию Qwen-Coder выбрать для 24 ГБ VRAM
4. Почему размер контекста влияет на видеопамять
5. Требования к компьютеру
6. Итоговая архитектура
7. Подготовка Ubuntu
8. Установка драйвера NVIDIA
9. Установка Docker Engine и Docker Compose
10. Установка NVIDIA Container Toolkit
11. Создание Docker Compose-конфигурации
12. Запуск Ollama и...
