ZebroidФорумПубличный разделПредложенияПараметры для генерации текста openai

Параметры для генерации текста openai

18 мая 2023, 12:37
Зарегистрирован: 10 мая 2019, 18:09

Здравствуйте. Хотелось бы иметь возможность задавать параметры как на скриншоте. Без этого никак. Это стандартные параметры, которые нужно указывать + нужны паузы между запросами(у openai существуют лимиты на количество запросов в минуту)

Точный список параметров:

  1. Выбор модели
  2. Задержка между запросами (in Seconds)
  3. Temperature
  4. Max Tokens
  5. Top P
  6. Best Of
  7. Frequency Penalty
  8. Presence Penalty


Так же было бы круто реализовать структуру написания статьи, примерно, как на следующем скриншоте:

Введение, заголовки и их количество, нумерованные списки, заключение. С возможностью создавать новые запросы к openai, чтобы писать очень длинные посты. Ещё круче было бы сделать возможным генерировать текст(параграф) в указанное место в статье, например, с помощью специального тега\кода, и вставку изображений реализовать генерированных.

P.S. Первое предложение — это прям очень нужно, без параметров толку от openai в Зеброиде мало.

18 мая 2023, 13:08
Зарегистрирован: 21 сентября 2011, 13:43
Я предоставил пример реализации плагина по OpenAI для решения простой задачи. Нужно что-то посложнее — пишите свой плагин. Я уже устал повторят эту фразу: создать универсальный инструмент для работы с API ChatGPT невозможно. Если бы это было возможно, то OpenAI сами бы предоставляли такой интерфейс, а не давали доступ к API для решения индивидуальных задач.

Писать отдельный плагин под задачи каждого пользователя я тоже не буду: пользователей много, задачи у них разные и требования к настройкам тоже разные. Поверьте, за всё время существования ChatGPT ко мне много пользователей писало с описанием нужно им инструмента и при это у всех были разные запросы.

18 мая 2023, 13:13
Зарегистрирован: 21 сентября 2011, 13:43
P.S. Первое предложение — это прям очень нужно, без параметров толку от openai в Зеброиде мало.
Это всё субъективно. Вам толку мало, другим достаточно, не нужно обобщать. Если так рассуждать, то и с параметрами толку мало, потому что весь этот генерированный контент определяется чуть ли не со 100% точность и чтобы вы там не настраивали он всё равно будет определяться.

Второй момент: я сделал реализацию API ChatGPT. Для работы с другими моделями OpenAI там немного другой API. Большинству пользователей это не нужно. Уже сейчас и без Зеброида сотни тысяч человек сидят и вручную задрачивают ChatGPT своими запросами без всех этих параметров и их всё устраивает, а вы мне рассказываете, что без каких-то параметров толку от инструмента мало.

18 мая 2023, 13:42
Зарегистрирован: 21 сентября 2011, 13:43
Ну и последнее: на сколько я могу судить по вашим скриншотам — вы просто хотите получить аналог уже готового инструмента за бесплатно. Я внимательно изучил эти скриншоты и скажу, что ценность как раз больше в настройках со второго скриншота, чем с первого. Те настройки, что на первом скриншоте вы даже не поймете как по нормальному настраивать:
1. Модель — вы вряд ли будете выбирать модель хуже, чем 3.5
2. Задержка — нужна только аккаунтам с ограничениями
3. Температура — поиграетесь с разными вариантами и остановитесь на каком-то одном в пределах 0.7 — 1.3, потому что все что меньше будет менее уникальным, а все что больше будет слишком бредовым
4. Top P — вы тоже особо трогать не будете, так как не будете понимать что меняется (кстати не понимаю почему на скриншоте такое маленькое значение у этого параметра, как по мне оптимально где-то 0.9)
5. Best Of — специфичный параметр, мало кому нужен (но не исключаю, что есть пару ситуаций, в которых нужно больше 1 ответа на один запрос)
6. Frequency Penalty и Presence Penalty — в поисках оптимального значения вы может и поиграетесь с этими параметрами, но менять их в будущем в ряд ли будете

Самое интересное, что в для ChatGPT большинство этих параметров не нужно настраивать, потому что специалисты OpenAI их уже настроили вместо вас. Вам не нужно подбирать оптимальные настройки температуры, потому что в текстовом запросе и так можно задать бредовость ответа, вам не нужно задавать параметр Best Of — потому что чат бота и так можно попросить сгенерировать несколько вариаций одного ответа. Вам не нужно задавать Top P, Frequency Penalty и Presence Penalty потому что они и так максимально оптимальные.

Так что я не вижу вообще никакой ценности во всех этих настройках. А вот настройки второго скриншота хотя бы позволяют генерировать контролируемые по структуре и длинные тексты. Это уже на много интереснее. Но как я говорил ранее, это специфическая задача и далеко не всем оно нужно (в первую очередь из-за более сложной настройки).

Мне больше всего понравилась идея генерации вставок в текст. Хорошие тексты внутри которых небольшие куски сгенерированого текста имеют больше шансов выжить в будущем, когда ПС начнут массово банить сайты с большим количеством сгенерированного текста.

26 мая 2023, 08:37
Зарегистрирован: 10 мая 2019, 18:09
Ценность в настройках есть. Выбор модели: разная скорость генерации, разная цена токенов, да текст другой просто… Уникальность параметрами можно изменить. Уже сгенерено на настройках по умолчанию так много, что 30% средняя уникальность статьи, если параметры и промты не задавать свои. Использую другой софт для написания статей. Никто не просил универсальный инструмент. Зачем мне Ваш софт, если самому писать нужно? Добавили ChatGPT для хайпа, будто в выдаче не видите кучу доров на нём: это не хайп, это реальность. Спасибо, что задержки добавили, хоть что-то, хотя бы работает теперь)))

26 мая 2023, 08:39
Зарегистрирован: 10 мая 2019, 18:09
Второй скрин — это плагин бесплатный для WP, его не юзаю. А первый скрин — это стандартные настройки, не чья то прихоть.

29 мая 2023, 15:30
Зарегистрирован: 21 сентября 2011, 13:43
Никто не просил универсальный инструмент.
Все просят инструмент под свои задачи, но задачи у всех разные, а я не фрилансер, чтобы под каждого пользователя создавать универсальный инструмент. Так что: либо универсальный, который закроет запросы хотя бы нескольких пользователей, либо на заказ по ценам фрилансера.

Зачем мне Ваш софт, если самому писать нужно?
Для удобства. Вы не умеете писать, а кто-то умеет и просто нуждается в примере, а кому-то и такой вариант как я сделал подходит.

Добавили ChatGPT для хайпа, будто в выдаче не видите кучу доров на нём: это не хайп, это реальность.
Добавил потому что просили и в том виде в котором просили. То, что это не совпадает с вашими запросами как раз та реальность о которой я говорю: всем не угодишь, а универсальный инструмент который с помощью настроек может угодить большинству не создать.

Комментарий отредактирован 1 раз(а). Последний раз редактировал Саппорт 29 мая 2023, 15:31.