Интерфейс чата

Помощник и темы

Помощник

Помощник Это набор персонализированных настроек для выбранной модели при её использовании, таких как предустановки подсказок и предустановки параметров и т. п.; благодаря этим настройкам выбранная модель может лучше соответствовать вашим ожиданиям от работы.

Системный помощник по умолчанию предустановлен с довольно универсальными параметрами (без подсказки); вы можете использовать его напрямую или перейти на страницу агентов и найти нужную вам предустановку для использования.

Тема

Помощник является Тема надмножеством Тема общих Помощник для него параметров и предустановленных слов (prompt) и других настроек модели.

Кнопки внутри окна диалога

Новая тема Создать новую тему в текущем помощнике.

Загрузить изображение или документ Для загрузки изображения требуется поддержка модели; загруженный документ будет автоматически распознан как текст и передан модели в качестве контекста.

Поиск в сети Необходимо настроить в параметрах информацию, связанную с поиском в сети; результаты поиска возвращаются большой модели как контекст, подробнее см. режим подключения к сети

База знаний Включить базу знаний, подробнее см. Руководство по базе знаний

MCP-сервер Включить функцию MCP-сервера, подробнее см. Руководство по использованию MCP

Генерировать изображение Показывается только если выбранная диалоговая модель поддерживает генерацию изображений. (Если это не диалоговая модель для генерации изображений, перейдите в Рисование

Выбрать модель Для последующего диалога переключиться на указанную модель, сохранив контекст.

Быстрые фразы Сначала нужно предустановить часто используемые фразы в настройках, затем вызывать их здесь; можно вводить напрямую, поддерживаются переменные.

Очистить сообщения Удалить всё содержимое в этой теме.

Развернуть Сделать окно диалога больше, чтобы удобно вводить длинный текст.

Очистить контекст Не удаляя содержимое, обрезать контекст, доступный модели; то есть модель «забудет» предыдущий диалог.

Оценка числа токенов Показывает оценочное число токенов, четыре значения соответственно: текущее число контекстных сообщениймаксимальное число контекстных сообщений (∞ означает бесконечный контекст), число символов сообщений в текущем поле вводаОценка числа токенов

Эта функция предназначена только для оценки числа токенов; фактическое число токенов у каждой модели разное, ориентируйтесь на данные провайдера модели.

Перевести Перевести содержимое текущего поля ввода на английский.

Настройки диалога

Настройки модели

Параметры в настройках модели и в настройках помощника Настройки модели синхронизируются, подробнее см. Настройки помощника

В настройках диалога только параметры этой модели действуют на текущего помощника, остальные настройки действуют глобально. Например: после установки стиля сообщений «пузырь» он будет таким в любой теме любого помощника.

Настройки сообщений

Разделитель сообщений:

Использовать разделительную линию, чтобы отделить основное сообщение от панели действий.

Использовать шрифт с засечками

Переключение стиля шрифта; теперь вы также можете изменить шрифт через пользовательский CSS .

Номера строк в коде

Показывать номера строк в блоке кода, когда модель выводит фрагменты кода.

Сворачиваемые блоки кода

После включения, когда фрагмент кода длинный, блок кода будет автоматически сворачиваться.

Перенос строк в блоках кода

После включения, когда одна строка кода слишком длинная (выходит за пределы окна), она будет автоматически переноситься.

Автосворачивание мыслительного процесса

После включения модели, поддерживающие размышления, будут автоматически сворачивать ход рассуждений после завершения мышления.

Стиль сообщений

Можно переключить интерфейс диалога на стиль пузырей или список.

Стиль кода

Можно переключать стиль отображения фрагментов кода.

Движок математических формул

  • KaTeX рендерится быстрее, потому что специально оптимизирован для производительности;

  • MathJax рендерится медленнее, но обладает более широкими возможностями и поддерживает больше математических символов и команд.

Размер шрифта сообщений

Настроить размер шрифта в интерфейсе диалога.

Настройки ввода

Показывать оценку числа токенов

Показывать в поле ввода предполагаемое число токенов, которое потребуется для введённого текста (не фактические токены, расходуемые контекстом; только для справки).

Вставлять длинный текст как файл

Когда вы копируете длинный фрагмент текста из другого места и вставляете его в поле ввода, он автоматически отображается в виде файла, уменьшая помехи при последующем вводе.

Рендерить входящие сообщения в Markdown

Если выключено, рендерятся только сообщения-ответы модели, а отправленные сообщения не рендерятся.

Перевод по тройному нажатию пробела

После ввода сообщения в поле ввода интерфейса диалога можно трижды подряд нажать пробел, чтобы перевести введённый текст на английский.

Целевой язык

Задает целевой язык для кнопки перевода в поле ввода и для перевода по тройному нажатию пробела.

Настройки помощника

В интерфейсе помощника выберите нужный для настройкиназвание помощника→ вконтекстном менювыберите соответствующую настройку

Редактировать помощника

Настройки помощника действуют на все темы этого помощника.

Настройки подсказок

Название

Можно задать удобное для распознавания название помощника.

Подсказка

То есть prompt; содержимое можно редактировать, ориентируясь на способ написания подсказок на странице агентов.

Настройки модели

Модель по умолчанию

Для этого помощника можно закрепить модель по умолчанию; при добавлении со страницы агентов или при копировании помощника начальной моделью будет эта модель. Если этот пункт не задан, начальной моделью будет глобальная начальная модель (то есть Модель помощника по умолчанию ).

У модели по умолчанию у помощника есть два варианта: один — глобальная модель чата по умолчанию , другой — модель по умолчанию помощника; приоритет модели по умолчанию помощника выше, чем у глобальной модели диалога по умолчанию. Если модель по умолчанию помощника не задана, то модель по умолчанию помощника = глобальная модель диалога по умолчанию.

Автоматически сбрасывать модель

При включении — если в процессе работы в этой теме вы переключались на другую модель, то при создании новой темы её модель будет сброшена на модель по умолчанию помощника. Если эта опция выключена, модель новой темы будет следовать модели, использованной в предыдущей теме.

Например, если модель по умолчанию помощника — gpt-3.5-turbo, я создал тему 1 в этом помощнике и в ходе диалога в теме 1 переключился на использование gpt-4o, тогда:

если включён автоматический сброс: при создании темы 2 модель по умолчанию для темы 2 будет gpt-3.5-turbo;

если автоматический сброс не включён: при создании темы 2 модель по умолчанию для темы 2 будет gpt-4o.

Температура (Temperature)

Параметр температуры управляет степенью случайности и креативности генерируемого моделью текста (значение по умолчанию — 0.7). В частности:

  • Низкая температура (0–0.3):

    • более определённый и сфокусированный вывод

    • подходит для генерации кода, анализа данных и других сценариев, где важна точность

    • склонность выбирать наиболее вероятные слова

  • Средняя температура (0.4–0.7):

    • баланс между креативностью и связностью

    • подходит для повседневных диалогов и общего письма

    • рекомендуется для диалогов чат-ботов (около 0.5)

  • Высокая температура (0.8–1.0):

    • даёт более креативный и разнообразный вывод

    • подходит для творческого письма, мозгового штурма и подобных сценариев

    • но может снизить связность текста

Top P (ядерная выборка)

Значение по умолчанию — 1; чем меньше значение, тем более однообразным и тем легче для понимания становится ответ ИИ; чем больше значение, тем шире диапазон слов, которые ИИ может использовать в ответе, и тем разнообразнее он будет.

Ядерная выборка влияет на вывод, контролируя порог вероятности выбора слов:

  • Малые значения (0.1–0.3):

    • учитываются только слова с наибольшей вероятностью

    • вывод более консервативный и управляемый

    • подходит для комментариев к коду, технической документации и т. п.

  • Средние значения (0.4–0.6):

    • баланс разнообразия слов и точности

    • подходит для обычных диалогов и письменных задач

  • Большие значения (0.7–1.0):

    • учитывается более широкий выбор слов

    • получается более богатый и разнообразный контент

    • подходит для творческого письма и других сценариев, требующих разнообразного выражения

  • Эти два параметра можно использовать независимо или в комбинации

  • Выбирайте подходящие значения параметров в зависимости от конкретного типа задачи

  • Рекомендуется экспериментально найти наиболее подходящую комбинацию параметров для конкретного сценария применения

  • Вышеуказанное приведено только для справки и понимания концепции; указанный диапазон параметров может подходить не для всех моделей. Конкретные рекомендации по параметрам см. в документации соответствующей модели.

Количество контекста (Context Window)

Количество сообщений, сохраняемых в контексте: чем больше значение, тем длиннее контекст и тем больше токенов расходуется:

  • 5–10: подходит для обычных диалогов

  • >10: сложные задачи, которым требуется более длинная память (например: пошаговая генерация длинного текста по плану, где необходимо обеспечить логическую связность сгенерированного контекста)

  • Внимание: чем больше сообщений, тем больше расход токенов

Включить ограничение длины сообщения (MaxToken)

Максимальное число токенов за один ответ; в больших языковых моделях max token (максимальное число токенов) — это ключевой параметр, напрямую влияющий на качество и длину ответа модели.

Например, в CherryStudio, когда после ввода key вы тестируете, подключена ли модель, нужно лишь проверить, корректно ли модель вернула сообщение, без необходимости в конкретном содержимом; в таком случае достаточно установить MaxToken = 1.

У большинства моделей верхний предел MaxToken — 32k токенов, хотя у некоторых — 64k и даже больше; конкретные значения нужно смотреть на соответствующей странице описания.

Сколько именно задавать, зависит от ваших потребностей; конечно, можно ориентироваться и на рекомендации ниже.

Потоковый вывод (Stream)

Потоковый вывод — это способ обработки данных, при котором данные передаются и обрабатываются как непрерывный поток, а не отправляются все сразу. Такой подход позволяет обрабатывать и выводить данные сразу после их генерации, значительно повышая оперативность и эффективность.

В клиентах вроде CherryStudio это, если говорить просто, эффект печатной машинки.

После выключения (непотоковый режим) — модель выводит всю информацию целиком после завершения генерации (представьте себе ощущение от сообщения в WeChat);

При включении — вывод по символам; это можно понять так, что большая модель отправляет вам каждый символ сразу после его генерации, пока всё не будет отправлено.

Если некоторые специальные модели не поддерживают потоковый вывод, нужно отключить этот переключатель, напримерс самого началаподдерживает только непотоковый режим, например o1-mini.

Пользовательские параметры

Добавляйте в тело запроса (body) дополнительные параметры, такие как presence_penalty и другие поля; большинству людей в обычных случаях это не требуется.

Указанные выше параметры top-p, maxtokens, stream и т. п. — одни из этих параметров.

Способ заполнения: имя параметра — тип параметра (текст, число и т. п.) — значение, справочная документация:Нажмите, чтобы перейти

У каждого провайдера моделей есть, в большей или меньшей степени, собственные уникальные параметры; способ использования нужно искать в документации провайдера

  • Пользовательские параметры имеют более высокий приоритет, чем встроенные. То есть если пользовательский параметр совпадает со встроенным, пользовательский параметр перезапишет встроенный.

Например: в пользовательских параметрах задано model для gpt-4o тогда в диалоге, независимо от того, какую модель вы выберете, будет использоваться gpt-4o модель.

  • Использование Имя параметра: undefined позволяет исключить параметр.

Последнее обновление

Это было полезно?