AnythingLLM
Mintplex Labs · Общайтесь с документами, настраивайте локальные или облачные модели ИИ и создавайте рабочие процессы агентов в настольной среде с возможностью подключения сервисов.
Описание
Перевод ИИПоказать оригиналAnythingLLM — это настольная рабочая среда с ИИ для общения с документами, выбора локальных или удалённых моделей и запуска агентных процессов. Она подходит пользователям, которым нужен настраиваемый помощник для работы с документами на собственном компьютере с возможностью подключения внешних сервисов инференса, эмбеддингов, поиска и векторных баз данных.
Документы, чат и агенты
Импортируйте поддерживаемые документы в рабочие пространства и используйте поиск по ним, чтобы передавать релевантный контекст в ответы модели. Выбирайте LLM, модель эмбеддингов и векторную базу данных в зависимости от вашего рабочего процесса. Поддерживаются интеграции с локальными движками моделей и облачными провайдерами; локальная конфигурация приложения по умолчанию не означает, что все возможные интеграции работают только на устройстве.
Агенты могут использовать настроенные инструменты и навыки для просмотра веб-страниц, операций с файлами и создания документов. Агентные процессы объединяют шаги в повторяемые последовательности действий. К функциям настольной версии относятся помощники для встреч и рабочего стола, а другие варианты развёртывания имеют собственные возможности. Исходный проект также предлагает самостоятельное развёртывание и размещённые сервисы; их многопользовательский режим, сетевой доступ и администрирование не обязательно устроены так же, как в настольном приложении для Mac.
Установка, оборудование и зависимости
Скачайте подходящий официальный DMG для Apple Silicon или Intel, откройте его и перетащите AnythingLLM в папку приложений либо выполните brew install --cask anythingllm. Руководство по установке на Mac явно различает эти два семейства чипов и указывает, что устройства Apple серии M быстрее выполняют локальный инференс. Проверенный cask Homebrew выбирает DMG для Silicon на Mac с ARM и отдельный DMG на Mac с Intel. Ни один из них не следует описывать как подтверждённый универсальный установщик. Проверенные источники по установке и cask не устанавливают конкретную минимальную версию macOS, поэтому числовой минимум здесь не приводится.
Издатель рекомендует 16 ГБ оперативной памяти и восьмиядерный процессор для базовой работы с локальной моделью; это рекомендации, а не обещание, что любая модель поместится в памяти. Требования к диску сильно зависят от скачанных весов моделей и импортированных документов. Удалённые LLM снижают требования к локальному инференсу и хранению моделей, но требуют доступа к провайдеру. В cask не указаны отдельные зависимости от формул или именованные конфликты; локальные модели, внешние серверы и выбранные провайдеры — это дополнительные ресурсы для работы приложения. Docker не требуется для установки настольного DMG.
Предоставляйте доступ к микрофону, экрану или файлам только для выбранных вами необязательных функций помощника и импорта. Для обычного чата с документами не заявлено общее требование доступа к функциям универсального доступа, полного доступа к диску или прав администратора. Импортированные навыки агентов и внешние инструменты MCP могут влиять на систему шире, чем обычный чат; перед использованием проверяйте их разрешения и источник.
Расходы, сеть и учётные записи
Базовое настольное приложение и публичный проект доступны бесплатно, а исходный код распространяется по лицензии MIT. Desktop Pro и размещённые сервисы — отдельные платные предложения, а провайдеры облачных моделей могут взимать плату за использование и требовать учётные данные API. Веса моделей и внешние сервисы имеют собственные лицензии и условия; лицензия MIT проекта не даёт неограниченных прав на каждую модель или подключённый набор данных. Локальные процессы сами по себе не требуют учётной записи размещённого сервиса LLM, но Pro, сообщество и некоторые облачные интеграции могут требовать отдельную учётную запись или ключ.
Сетевой доступ используется для загрузок, обновлений, подключённых провайдеров, веб-инструментов и необязательных сервисов. Для локальных моделей нужны подходящее оборудование и скачанные веса. Не считайте, что все действия агентов работают без сети только потому, что выбрана локальная модель.
Конфиденциальность и риски для данных
В политике конфиденциальности настольной версии указано, что сообщения, истории чатов и документы по умолчанию сохраняются локально. Там также описана необязательная анонимная телеметрия использования, которую можно отключить в настройках. Это утверждение относится к стандартному рабочему процессу настольной версии; при выборе облачного инференса, удалённых эмбеддингов, онлайн-поиска или внешних инструментов необходимые данные могут передаваться соответствующим сервисам. Прежде чем обрабатывать конфиденциальные материалы, изучите условия каждого провайдера.
Ответы ИИ и ссылки на источники могут быть неполными или ошибочными. Проверяйте важные выводы по исходным документам. Сохраняйте резервные копии данных рабочих пространств и исходных файлов, защищайте ключи API и проверяйте изменения файлов агентами до выполнения. Локальное приложение само по себе не гарантирует конфиденциальность каждого процесса с подключёнными сервисами.
Запрос HTTP HEAD к официальному DMG для Silicon сообщает размер 566,665,700 байт для проверенной загрузки. Установщики Intel и хранилище установленных моделей имеют другие размеры.
Источники: Официальный продукт, Официальный проект, Установка на Mac, Рекомендации по оборудованию, Конфиденциальность настольной версии, Официальные выпуски.
Новая версия Что нового в 1.17.0 7 окт. · Редакция OpenNavo · Перевод ИИ
- ДобавленоДобавлены Gemini и llmman как провайдеры генерации изображений.
- ИсправленоПри чтении электронных таблиц сохраняются даты и все листы.