Украинцы создают ИИ без облака: MacPaw готовит обновления для macOS
Локальные алгоритмы не будут нуждаться в сети
MacPaw готовит обновления для пользователей macOS. Компания в сотрудничестве с Liquid AI разрабатывает локальный ИИ, который будет работать без облака, скорее отвечать на запросы и не будет передавать личные данные на внешние серверы.
Об этом пишет MacPaw.
Партнерство сочетает в себе фундаментальные модели Liquid Foundation Models (LFM), специально оптимизированные под систему macOS, с собственными разработками MacPaw - механизмом локального запуска Elix и системой памяти Mnemos.
Первым продуктом, в котором реализуют новую технологию, станет системный ИИ-ассистент Eney от MacPaw .
Ключевые технологические направления сотрудничества
Совместная работа MacPaw и Liquid AI разворачивается по двум основным направлениям:
Перенос вычислений на устройство: Liquid AI адаптирует и оптимизирует свои модели под реальные рабочие задачи ассистента Eney.
Модели будут выполняться локально через двигатель Elix на процессорах Apple Silicon, а облачные вычисления будут привлекаться только для самых сложных запросов.
Развитие системы памяти Mnemos: разработка специального слоя памяти от MacPaw позволяет ассистенту сохранять контекст взаимодействия между разными сессиями и становиться более эффективным.
Интересно, что личные данные пользователей остаются исключительно на их устройствах, а отклик системы становится практически мгновенным.
Инфраструктура для всей экосистемы Mac
Внедрение автономного искусственного интеллекта в ассистенте Eney - первый этап глобальной стратегии. Разработчики отмечают, что модели, инференс-фреймворк и пласт памяти разрабатываются как универсальная технологическая платформа.
После тестирования в Eney компания MacPaw планирует открыть доступ к новой локальной ИИ-инфраструктуре для тысяч сторонних разработчиков ПО через магазин приложений Setapp.
MacPaw - международная продуктовая IT-компания, основанная в Киеве, с офисами в Бостоне и странах ЕС. Компания создает экосистему программного обеспечения и ШИ-сервисов для macOS, включая CleanMyMac и Setapp.
