Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Здесь обсуждается всё, что касается макросов.
User avatar
John Doe
Бюрократ
Posts: 14580
Joined: Wed 27 Apr, 2005 20:42
Location: github.com/FarManagerLegacy
Has thanked: 92 times
Been thanked: 514 times
Contact:

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

Доступ к сервисам возможен как посредством разнообразных консольных утилит, так и напрямую через REST API.

Каждый из LLM-сервисов имеет свои достоинства и недостатки – выбор за пользователем.

Макрос назначен на Ctrl+B и открывает диалог для ввода запроса и настройки параметров генерации.
При этом выделение редактора передаётся в качестве контекста.

Может быть также запущен в качестве скрипта LuaShell.

Вывод ответа осуществляется в отдельном редакторе.
Макросы, активные в окне с выводом:

  • Ctrl+Shift+Ins:
    • скопировать выделенный текст, склеив свёрнутые строки обратно в параграфы;
    • при отсутствии выделения ищет и обрабатывает блок кода под курсором.
  • Alt+F2 полностью убрать форматирование (свёртку).
Ctrl+B:Double позволяет в любой момент открыть окно с выводом повторно.

Если выделен текст, то нажатие Ctrl+B:Hold продолжает чат без открытия диалога,
передавая выделение в качестве нового запроса.

Кроме того, прилагается файл macros.lua.sample с примерами макросов для быстрых действий, см. Профили.

Примечание: составные сочетания типа Ctrl+B:Double/Ctrl+B:Hold предполагают использование модуля MacroEx.
Альтернативно, можно заменить сочетания на простые, см. Опции askai.lua.

Диалог

Профили

Работа с пресетами

Установка

Меню выбора конфигурации провайдера

Обзор онлайн-сервисов

https://github.com/FarManagerLegacy/AskAI | Скачать
https://t.me/FarManager — Telegram чат
User avatar
John Doe
Бюрократ
Posts: 14580
Joined: Wed 27 Apr, 2005 20:42
Location: github.com/FarManagerLegacy
Has thanked: 92 times
Been thanked: 514 times
Contact:

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

Latest post of the previous page:

В последнее время gemini api при использовании модели gemini-1.5-pro(-latest) часто выдаёт ошибку:

Code: Select all

Error: [500 INTERNAL] An internal error has occurred. Please retry or report in 
https://developers.generativeai.google/guide/troubleshooting
Решение: использовать последнюю экспериментальную gemini-1.5-pro-exp-0827
https://t.me/FarManager — Telegram чат
User avatar
John Doe
Бюрократ
Posts: 14580
Joined: Wed 27 Apr, 2005 20:42
Location: github.com/FarManagerLegacy
Has thanked: 92 times
Been thanked: 514 times
Contact:

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

В комплект поставки включать не буду, но раз уж есть то...

Интерфейс к https://fish-text.ru/, альтернатива выложенному тут, требуется только добавить этот файл: fish-text.lua.cfg
https://t.me/FarManager — Telegram чат
User avatar
John Doe
Бюрократ
Posts: 14580
Joined: Wed 27 Apr, 2005 20:42
Location: github.com/FarManagerLegacy
Has thanked: 92 times
Been thanked: 514 times
Contact:

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

v1.2
Теперь для работы с сетью требуются только LuaSec/LuaSocket, плюс (в принципе) любой JSON-модуль, а не строго Lua CJSON.
В связи с тем, что установка упростилась, убрал архив с зависимостями из шапки.
Кроме того, в новой версии есть некоторые другие улучшения, не достаточно существенные чтобы упоминать их поимённо.
https://t.me/FarManager — Telegram чат
User avatar
John Doe
Бюрократ
Posts: 14580
Joined: Wed 27 Apr, 2005 20:42
Location: github.com/FarManagerLegacy
Has thanked: 92 times
Been thanked: 514 times
Contact:

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

Поскольку скрипт обрабатывает выделение в редакторе, обычно нет проблемы написать длинный запрос (его можно набирать например в том же редакторе, куда записываются ответы).
Однако иногда удобнее всё-таки вводить запрос в диалоге, и тогда на помощь приходит макрос Редактировать содержимое поля ввода в редакторе.
https://t.me/FarManager — Telegram чат
User avatar
John Doe
Бюрократ
Posts: 14580
Joined: Wed 27 Apr, 2005 20:42
Location: github.com/FarManagerLegacy
Has thanked: 92 times
Been thanked: 514 times
Contact:

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

v1.3
  • Реализован перенос слов с дефисом.
  • Шорткаты в списке конфигураций.
  • Работа с пресетами в диалоге
  • К имеющимся добавлены ещё несколько пресетов: anyai.preset, copilot-public.preset, gemini-public.preset.
    AnyAI — сервис с большим выбором моделей.
    Учитывая бесплатность есть некоторые ограничения, см. https://discord.gg/anyai
https://t.me/FarManager — Telegram чат
User avatar
John Doe
Бюрократ
Posts: 14580
Joined: Wed 27 Apr, 2005 20:42
Location: github.com/FarManagerLegacy
Has thanked: 92 times
Been thanked: 514 times
Contact:

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

https://github.com/aurora-develop/Duck2api
API-адаптер, дающий доступ к моделям с https://duck.ai (DuckDuckGo AI Chat)
  1. Скачать из релизов, распаковать, переименовать duck2api в duck2api.exe и запустить.
  2. Использовать через lua-openai или любую другую имеющуюся утилиту
    • в качестве apibase указать http://localhost:8080/v1
    • model (на данный момент) одна из

      Code: Select all

          gpt-4o-mini
          claude-3-haiku-20240307
          meta-llama/Meta-Llama-3.1-70B-Instruct-Turbo
          mistralai/Mixtral-8x7B-Instruct-v0.1
https://t.me/FarManager — Telegram чат
User avatar
John Doe
Бюрократ
Posts: 14580
Joined: Wed 27 Apr, 2005 20:42
Location: github.com/FarManagerLegacy
Has thanked: 92 times
Been thanked: 514 times
Contact:

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

https://github.com/bincooo/chatgpt-adapter/releases
API-адаптер, дающий доступ к моделям с https://chat.lmsys.org/ (Chatbot Arena), Bing Copilot, и др.

Меня больше всего тут именно Chatbot Arena заинтересовала, у них очень много моделей
https://t.me/FarManager — Telegram чат
User avatar
John Doe
Бюрократ
Posts: 14580
Joined: Wed 27 Apr, 2005 20:42
Location: github.com/FarManagerLegacy
Has thanked: 92 times
Been thanked: 514 times
Contact:

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

На openrouter появились бесплатные модели побольше:
  • mattshumer/reflection-70b:free
  • liquid/lfm-40b:free
  • meta-llama/llama-3.1-70b-instruct:free
  • meta-llama/llama-3.1-405b-instruct:free
  • nousresearch/hermes-3-llama-3.1-405b:free
И поновее:
  • meta-llama/llama-3.2-11b-vision-instruct:free
  • meta-llama/llama-3.2-90b-vision-instruct:free
Интересно что некоторые модели хоть исчезли из списка, но пока ещё доступны:
  • mistralai/pixtral-12b:free
  • qwen/qwen-2-vl-7b-instruct:free
https://t.me/FarManager — Telegram чат
User avatar
John Doe
Бюрократ
Posts: 14580
Joined: Wed 27 Apr, 2005 20:42
Location: github.com/FarManagerLegacy
Has thanked: 92 times
Been thanked: 514 times
Contact:

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

Github теперь тоже даёт доступ к gpt-4o/gpt-4o-mini и ряду других моделей:

У Mistral появилась возможность бесплатного доступа
Для бесплатного доступа к Codestral надо подать запрос отдельно.
https://t.me/FarManager — Telegram чат
User avatar
John Doe
Бюрократ
Posts: 14580
Joined: Wed 27 Apr, 2005 20:42
Location: github.com/FarManagerLegacy
Has thanked: 92 times
Been thanked: 514 times
Contact:

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

v1.4
  • Улучшения в меню конфигураций: утилиты отделены от нативных конфигов.
  • Улучшения в диалоге. Основное: зависимые параметры (как apikey, model) теперь привязаны к основному (apibase),
    т.е. теперь в их историю попадают только релевантные значения.
  • До сих пор была только возможность предварительно заполнять историю списком моделей.
    Теперь предусмотрена кнопка / F6 для запроса моделей через REST API, что важно поскольку модели со временем могут меняться.
  • В процессе стриминга в редакторе теперь пытаемся устанавливать большой курсор
    (к сожалению мигает беспорядочно, возможно в связи с тем, что фар его активно подавляет).
  • Ряд новых пресетов: github, mistral, codestral, cerebras, deepinfra, fireworks.ai, hyperbolic, openai, openrouter, sambanova, siliconflow.
  • Обновлён список моделей в openrouter-free.lua.cfg.
  • Внутренние изменения, необходимые для реализации конфигураций отличных от OpenAI.
https://t.me/FarManager — Telegram чат
User avatar
John Doe
Бюрократ
Posts: 14580
Joined: Wed 27 Apr, 2005 20:42
Location: github.com/FarManagerLegacy
Has thanked: 92 times
Been thanked: 514 times
Contact:

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

MacroAPI assistant - владеет информацией представленной на сайте https://farmanagerlegacy.github.io/macro-api/

На правах демо (не уверен что сильно полезно без остальных мануалов).
Attachments
macro_api.lua.cfg.7z
(802 Bytes) Downloaded 75 times
https://t.me/FarManager — Telegram чат
gotar
Posts: 519
Joined: Sun 06 Sep, 2009 12:34
Has thanked: 31 times
Been thanked: 3 times

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by gotar »

Мне нужно cконвертировать awk скрипт из полторы сотни строчек на с. подскажите какой AI из поддерживаемых данным макросом лучше использовать?
User avatar
John Doe
Бюрократ
Posts: 14580
Joined: Wed 27 Apr, 2005 20:42
Location: github.com/FarManagerLegacy
Has thanked: 92 times
Been thanked: 514 times
Contact:

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

Правило мне известно только одно: чем больше модель, тем более сложные задачи ей под силу.
А дальше много нюансов, надо экспериментировать.
Многое зависит от того как сформулирован промпт, и подозреваю что задача подобная вашей за один ход может не решится, и потребуются уточнения.
https://t.me/FarManager — Telegram чат
gotar
Posts: 519
Joined: Sun 06 Sep, 2009 12:34
Has thanked: 31 times
Been thanked: 3 times

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by gotar »

и с какого AI стоит начать эксперименты?
User avatar
John Doe
Бюрократ
Posts: 14580
Joined: Wed 27 Apr, 2005 20:42
Location: github.com/FarManagerLegacy
Has thanked: 92 times
Been thanked: 514 times
Contact:

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

https://t.me/FarManager — Telegram чат
gotar
Posts: 519
Joined: Sun 06 Sep, 2009 12:34
Has thanked: 31 times
Been thanked: 3 times

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by gotar »

я так понял что для кодинга этот сайт рекомендует o1-mini. контекстный поиск в этой теме такой строчки не находит. Можно ли получить бесплатный доступ к этой AI c с помощю Вашего маrроса?
Last edited by gotar on Thu 10 Oct, 2024 14:37, edited 1 time in total.
Post Reply

Return to “Обсуждение макросов”