Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Здесь обсуждается всё, что касается макросов.
Post Reply
User avatar
John Doe
Бюрократ
Posts: 14032
Joined: Wed 27 Apr, 2005 20:42
Has thanked: 78 times
Been thanked: 443 times
Contact:
Contact John Doe

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

Этот макрос – дальнейшее развитие bito.ai code assistant (см.),
с поддержкой множества утилит и LLM-сервисов,
и возможностью настройки разнообразных параметров.

Макрос назначен на Ctrl+B. Также может быть запущен в качестве скрипта LuaShell.

Ctrl+B:Double позволяет в любой момент открыть окно с выводом повторно.

Функции:
  • Ввод запроса в диалоге, ранее набранные приглашения доступны в истории поля ввода.
    В диалоге доступны также такие действия:
    • (Опциональная) возможность работы в единой сессии, с сохранением предыдущего контекста.
      Состояние [?] означает что сессия продолжается пока открыт редактор с выводом.
      Сессию также можно в любой момент обнулить кнопкой “-”.
    • Форматирование вывода, по заданной границе, или по ширине окна (состояние [?]).
      Примечание: блоки кода не форматируются.
    • Установка различных параметров генерации (в зависимости от используемой утилиты).
      Значения запоминаются в истории, и легко доступны для повторного выбора.
      Некоторые параметры специфичны для отдельной утилиты, другие могут разделяться между разными
      (посредством общей истории).
    • Значения параметров в диалоге можно не только менять по одному, но и подставлять сразу набором (“пресетом”).
      Список пресетов открывается нажатием соответствующей кнопки, хоткеем, или же по F5.
    • Набор параметров легко меняется через файлы определений (*.lua.cfg), доступные прямо из диалога.
    • Некоторые утилиты держат свою конфигурацию в собственных файлах,
      открыть такой конфиг-файл тоже можно прямо из диалога.
    • Возможность установки переменных окружения, необходимых для отдельных утилит.
  • Вместе с запросом передаётся выделенный в редакторе текст.
    Если в запросе присутствует шаблон {{%input%}}, то он заменяется выделенным текстом.
    В противном случае текст выбранный в редакторе добавляется в конец запроса.
Дополнительные макросы, активные в окне с выводом:
  • Ctrl+Shift+Ins:
    • скопировать выделенный текст, склеив свёрнутые строки обратно в параграфы;
    • при отсутствии выделения ищет и обрабатывает блок кода под курсором.
  • Alt+F2 полностью убрать форматирование (свёртку).
Доступ к сервисам реализуется посредством (произвольных) консольных утилит,
либо напрямую через OpenAI API (опционально), см. раздел Установка.

Каждый из LLM-сервисов имеет свои достоинства и недостатки, поэтому выбор остаётся за пользователем.

Работа с пресетами

Установка

Меню выбора утилиты

Обзор поддерживаемых утилит

https://github.com/FarManagerLegacy/AskAI | Скачать
https://t.me/FarManager — Telegram чат
Top
User avatar
John Doe
Бюрократ
Posts: 14032
Joined: Wed 27 Apr, 2005 20:42
Has thanked: 78 times
Been thanked: 443 times
Contact:
Contact John Doe

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

Latest post of the previous page:

В последнее время gemini api при использовании модели gemini-1.5-pro(-latest) часто выдаёт ошибку:

Code: Select all

Error: [500 INTERNAL] An internal error has occurred. Please retry or report in 
https://developers.generativeai.google/guide/troubleshooting
Решение: использовать последнюю экспериментальную gemini-1.5-pro-exp-0827
https://t.me/FarManager — Telegram чат
Top
User avatar
John Doe
Бюрократ
Posts: 14032
Joined: Wed 27 Apr, 2005 20:42
Has thanked: 78 times
Been thanked: 443 times
Contact:
Contact John Doe

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

В комплект поставки включать не буду, но раз уж есть то...

Интерфейс к https://fish-text.ru/, альтернатива выложенному тут, требуется только добавить этот файл: fish-text.lua.cfg
https://t.me/FarManager — Telegram чат
Top
User avatar
John Doe
Бюрократ
Posts: 14032
Joined: Wed 27 Apr, 2005 20:42
Has thanked: 78 times
Been thanked: 443 times
Contact:
Contact John Doe

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

v1.2
Теперь для работы с сетью требуются только LuaSec/LuaSocket, плюс (в принципе) любой JSON-модуль, а не строго Lua CJSON.
В связи с тем, что установка упростилась, убрал архив с зависимостями из шапки.
Кроме того, в новой версии есть некоторые другие улучшения, не достаточно существенные чтобы упоминать из поимённо.
https://t.me/FarManager — Telegram чат
Top
User avatar
John Doe
Бюрократ
Posts: 14032
Joined: Wed 27 Apr, 2005 20:42
Has thanked: 78 times
Been thanked: 443 times
Contact:
Contact John Doe

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

Поскольку скрипт обрабатывает выделение в редакторе, обычно нет проблемы написать длинный запрос (его можно набирать например в том же редакторе, куда записываются ответы).
Однако иногда удобнее всё-таки вводить запрос в диалоге, и тогда на помощь приходит макрос Редактировать содержимое поля ввода в редакторе.
https://t.me/FarManager — Telegram чат
Top
User avatar
John Doe
Бюрократ
Posts: 14032
Joined: Wed 27 Apr, 2005 20:42
Has thanked: 78 times
Been thanked: 443 times
Contact:
Contact John Doe

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

v1.3
  • Реализован перенос слов с дефисом.
  • Шорткаты в списке конфигураций.
  • Работа с пресетами в диалоге
  • К имеющимся добавлены ещё несколько пресетов: anyai.preset, copilot-public.preset, gemini-public.preset.
    AnyAI — сервис с большим выбором моделей.
    Учитывая бесплатность есть некоторые ограничения, см. https://discord.gg/anyai
https://t.me/FarManager — Telegram чат
Top
User avatar
John Doe
Бюрократ
Posts: 14032
Joined: Wed 27 Apr, 2005 20:42
Has thanked: 78 times
Been thanked: 443 times
Contact:
Contact John Doe

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

https://github.com/aurora-develop/Duck2api
API-адаптер, дающий доступ к моделям с https://duck.ai (DuckDuckGo AI Chat)
  1. Скачать из релизов, распаковать, переименовать duck2api в duck2api.exe и запустить.
  2. Использовать через lua-openai или любую другую имеющуюся утилиту
    • в качестве apibase указать http://localhost:8080/v1
    • model (на данный момент) одна из

      Code: Select all

          gpt-4o-mini
    claude-3-haiku-20240307
    meta-llama/Meta-Llama-3.1-70B-Instruct-Turbo
    mistralai/Mixtral-8x7B-Instruct-v0.1
https://t.me/FarManager — Telegram чат
Top
User avatar
John Doe
Бюрократ
Posts: 14032
Joined: Wed 27 Apr, 2005 20:42
Has thanked: 78 times
Been thanked: 443 times
Contact:
Contact John Doe

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

https://github.com/bincooo/chatgpt-adapter/releases
API-адаптер, дающий доступ к моделям с https://chat.lmsys.org/ (Chatbot Arena), Bing Copilot, и др.

Меня больше всего тут именно Chatbot Arena заинтересовала, у них очень много моделей
https://t.me/FarManager — Telegram чат
Top
User avatar
John Doe
Бюрократ
Posts: 14032
Joined: Wed 27 Apr, 2005 20:42
Has thanked: 78 times
Been thanked: 443 times
Contact:
Contact John Doe

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

На openrouter появились модели побольше:
  • mattshumer/reflection-70b:free
  • nousresearch/hermes-3-llama-3.1-405b:free
https://t.me/FarManager — Telegram чат
Top
Post Reply

Return to “Обсуждение макросов”