Приложение проходит закрытое предварительное тестирование. Оно позволяет объединять память нескольких совместимых Mac через Thunderbolt 5 для запуска более крупных моделей.Автор Hi-Tech Mail
Компания Claris, которая принадлежит Apple, описала Harbor — приложение для превращения Mac с процессорами Apple Silicon в частный сервер искусственного интеллекта. По заявлению разработчика, модели работают на оборудовании пользователя, а данные и запросы не уходят в облако.
Harbor рассчитан на модели с открытыми весами: их параметры доступны для загрузки и локального запуска. Для работы подойдет один Mac с достаточным объемом памяти. Если модель слишком велика для одного компьютера, приложение позволяет подключить несколько совместимых машин через Thunderbolt 5 и объединить их память. Такой набор компьютеров сможет вместить более крупную модель или обслуживать больше одновременных запросов.
Основной акцент разработчики делают на простой настройке. Claris обещает, что подготовить сервер на одном Mac можно за несколько минут. Как уточняет профильное издание MacRumors, Harbor автоматически обнаруживает подключенные компьютеры. Искать, скачивать и загружать модели можно прямо в приложении, без командной строки и ручной настройки.
При этом объединение компьютеров само по себе не гарантирует, что каждый ответ ИИ будет появляться быстрее. Профильное издание AppleInsider отмечает, что главное преимущество Harbor заключается в упрощении запуска локального сервера. Результатов измерений производительности Claris не приводит. На официальной странице также нет списка совместимых Mac и моделей ИИ, минимального объема памяти или требований к версии macOS.
Claris заявляет об отсутствии облачных сборов и оплаты за каждый токен — фрагмент текста, который обрабатывает модель. Однако стоимость самого Harbor не раскрыта, поэтому считать приложение бесплатным пока нельзя. Пользователю также потребуется собственное оборудование с достаточными ресурсами.
Harbor находится на стадии закрытого предварительного тестирования. На странице продукта можно оставить заявку на получение новостей, но даты общедоступного выпуска, срока предоставления доступа и ссылки на скачивание там нет.
Ранее мы рассказывали о другом сценарии совместной работы устройств — что будет, если объединить все смартфоны мира в одну сеть.