Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Здесь обсуждается всё, что касается макросов.
Post Reply
User avatar
John Doe
Бюрократ
Posts: 14582
Joined: Wed 27 Apr, 2005 20:42
Location: github.com/FarManagerLegacy
Has thanked: 92 times
Been thanked: 514 times
Contact:

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

Доступ к сервисам возможен как посредством разнообразных консольных утилит, так и напрямую через REST API.

Каждый из LLM-сервисов имеет свои достоинства и недостатки – выбор за пользователем.

Макрос назначен на Ctrl+B и открывает диалог для ввода запроса и настройки параметров генерации.
При этом выделение редактора передаётся в качестве контекста.

Может быть также запущен в качестве скрипта LuaShell.

Вывод ответа осуществляется в отдельном редакторе.
Макросы, активные в окне с выводом:

  • Ctrl+Shift+Ins:
    • скопировать выделенный текст, склеив свёрнутые строки обратно в параграфы;
    • при отсутствии выделения ищет и обрабатывает блок кода под курсором.
  • Alt+F2 полностью убрать форматирование (свёртку).
Ctrl+B:Double позволяет в любой момент открыть окно с выводом повторно.

Если выделен текст, то нажатие Ctrl+B:Hold продолжает чат без открытия диалога,
передавая выделение в качестве нового запроса.

Кроме того, прилагается файл macros.lua.sample с примерами макросов для быстрых действий, см. Профили.

Примечание: составные сочетания типа Ctrl+B:Double/Ctrl+B:Hold предполагают использование модуля MacroEx.
Альтернативно, можно заменить сочетания на простые, см. Опции askai.lua.

Диалог

Профили

Работа с пресетами

Установка

Меню выбора конфигурации провайдера

Обзор онлайн-сервисов

https://github.com/FarManagerLegacy/AskAI | Скачать
https://t.me/FarManager — Telegram чат
User avatar
HaRT
Moderator
Posts: 11458
Joined: Tue 30 Aug, 2005 17:21
Has thanked: 270 times
Been thanked: 417 times

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by HaRT »

John Doe wrote: Thu 23 May, 2024 00:10 С некоторыми соображениями по выбору утилиты можно ознакомиться тут.
Имелась в виду какая-то ссылка?
Фар есть инструмент, а не нянька. © 2009 DrKnS
User avatar
John Doe
Бюрократ
Posts: 14582
Joined: Wed 27 Apr, 2005 20:42
Location: github.com/FarManagerLegacy
Has thanked: 92 times
Been thanked: 514 times
Contact:

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

HaRT wrote: Thu 23 May, 2024 01:34 Имелась в виду какая-то ссылка?
Внутренняя, на форуме это не поддерживается, а исходник справки общий.
HaRT wrote: Thu 23 May, 2024 01:34 Тут очевидная «недоправка».
Спасибо что заметили, исправил.

По пунктуации на ваше усмотрение.
В паре мест я сознательно опустил запятые, в угоду смысловой группировке, но если вы считаете это критичным, то..
https://t.me/FarManager — Telegram чат
gotar
Posts: 519
Joined: Sun 06 Sep, 2009 12:34
Has thanked: 31 times
Been thanked: 3 times

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by gotar »

У меня ArcLite:7z:dependencies.7z:\Macros\modules\openai\init.moon имеет нулевую длину. Так и должно быть?
User avatar
John Doe
Бюрократ
Posts: 14582
Joined: Wed 27 Apr, 2005 20:42
Location: github.com/FarManagerLegacy
Has thanked: 92 times
Been thanked: 514 times
Contact:

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

@gotar
Исправил, спасибо что сообщили
https://t.me/FarManager — Telegram чат
User avatar
John Doe
Бюрократ
Posts: 14582
Joined: Wed 27 Apr, 2005 20:42
Location: github.com/FarManagerLegacy
Has thanked: 92 times
Been thanked: 514 times
Contact:

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

Обновил список моделей в openrouter.lua.cfg и groq.preset.
https://t.me/FarManager — Telegram чат
User avatar
John Doe
Бюрократ
Posts: 14582
Joined: Wed 27 Apr, 2005 20:42
Location: github.com/FarManagerLegacy
Has thanked: 92 times
Been thanked: 514 times
Contact:

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

Обновление https://github.com/FarManagerLegacy/Ask ... all/master
  • Некоторые улучшения в lua-openai.lua.cfg, в частности теперь поддерживается не только https, но и http, что позволяет использовать локальные модели и адаптеры
  • groq.preset теперь читает apikey из переменной окружения GROQ_API_KEY
  • Новые конфиги и пресеты:
    • lepton.lua.cfg: opensource-модели https://www.lepton.ai/playground
    • tmrace.preset: gpt-4o-mini, с суточным ограничением на 50 запросов.
      Достойная альтернатива bito.
https://t.me/FarManager — Telegram чат
User avatar
John Doe
Бюрократ
Posts: 14582
Joined: Wed 27 Apr, 2005 20:42
Location: github.com/FarManagerLegacy
Has thanked: 92 times
Been thanked: 514 times
Contact:

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

К вопросу а какая же модель лучше.

Один из самых популярных рейтингов тут: https://chat.lmsys.org/?leaderboard
В настоящий момент первое место занимает не GPT-4, как мы привыкли, а gemini-1.5-pro-exp-0801 от Google:

И что не может не радовать, эту модель можно использовать бесплатно, см. https://habr.com/ru/articles/798123/
https://t.me/FarManager — Telegram чат
gotar
Posts: 519
Joined: Sun 06 Sep, 2009 12:34
Has thanked: 31 times
Been thanked: 3 times

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by gotar »

А можно чуть подробнее описать как подключить gemini-1.5-pro-exp-0801 к AskAI?
gotar
Posts: 519
Joined: Sun 06 Sep, 2009 12:34
Has thanked: 31 times
Been thanked: 3 times

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by gotar »

У меня выскакивает такое меню

Code: Select all


   ╔═════════ Choose utility ══════════╗
   ║  bito.ai code assistant           ║
   ║  Lepton [lua-openai]              ║
   ║  lua-openai                       ║
   ║  Openrouter [lua-openai]          ║
h  ║  presets [lua-openai]             ║
e  ║  Terminal GPT (tgpt)              ║
   ╚═ F4, Alt+F4, Ctrl+H, Alt+F1, F1 ══╝
  
в котором нет gemini
а при нажатии F1 выскакивает

Code: Select all

   ╔═════════════ Help ══════════════╗
   ║ Requested help topic not found: ║
   ║          UtilitiesList          ║
   ╟─────────────────────────────────╢
   ║             { OK }              ║
   ╚═════════════════════════════════╝
Last edited by gotar on Wed 14 Aug, 2024 20:30, edited 1 time in total.
User avatar
John Doe
Бюрократ
Posts: 14582
Joined: Wed 27 Apr, 2005 20:42
Location: github.com/FarManagerLegacy
Has thanked: 92 times
Been thanked: 514 times
Contact:

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

gotar wrote: Wed 14 Aug, 2024 20:22 а при нажатии F1 выскакивает
Исправил, спасибо.
gotar wrote: Wed 14 Aug, 2024 20:22 У меня выскакивает такое меню [...] в котором нет gemini
В списке - выбор утилиты, через которую вы хотите работать, и уже эту утилиту надо настраивать на gemini-1.5-pro-exp-0801.
Учитывая что у вас уже есть "lua-openai", то его и стоит использовать.

Из всего многообразия доступных в диалоге полей нас прежде всего интересуют первые три:
  • apibase: https://my-openai-gemini-demo.vercel.app/v1
    это демонстрационный endpoint, лучше развернуть свой (см. статью по ссылке)
  • apikey: ключ, который нужно получить по ссылке https://makersuite.google.com/app/apikey
    В зависимости от вашего расположения, может понадобиться VPN.
  • model: это как раз и есть gemini-1.5-pro-exp-0801,
https://t.me/FarManager — Telegram чат
gotar
Posts: 519
Joined: Sun 06 Sep, 2009 12:34
Has thanked: 31 times
Been thanked: 3 times

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by gotar »

Я попробовал выполнить инструкцию хабра. Выбрал vercel, нажал deploy, дальше я нажимал кнопки, не очень понимая их смысл. наконец я пришел к такой картинке:
vercel.png
. Это правильно? В процессе vercel запросил доступ к моему эккоунту на github и зачемто создал какойто проект на моем github. Могу ли я закрыть vercel доступ к моему аккоунту и удалить этот проект?
User avatar
John Doe
Бюрократ
Posts: 14582
Joined: Wed 27 Apr, 2005 20:42
Location: github.com/FarManagerLegacy
Has thanked: 92 times
Been thanked: 514 times
Contact:

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

Вы можете, но но смысл этого всего в том, чтобы проект на Vercel синхронизировался с вашим репозиторием на гитхабе.
Неочевидно почему для этого требуется отдельный репозиторий, но точно так же и на других сервисах.
https://t.me/FarManager — Telegram чат
gotar
Posts: 519
Joined: Sun 06 Sep, 2009 12:34
Has thanked: 31 times
Been thanked: 3 times

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by gotar »

т.е. закрыть доступ можно, удалять проект нельзя? или все таки можно удалить проект?
User avatar
John Doe
Бюрократ
Posts: 14582
Joined: Wed 27 Apr, 2005 20:42
Location: github.com/FarManagerLegacy
Has thanked: 92 times
Been thanked: 514 times
Contact:

Ask AI — макрос для взаимодействия с ChatGPT (и другими LLM-сервисами) в FAR

Post by John Doe »

Можно удалить репозиторий с гитхаба целиком. Но подумайте вы тогда будете обновлять проект в будущем?
https://t.me/FarManager — Telegram чат
Post Reply

Return to “Обсуждение макросов”