ИИ на домашнем компьютере или смартфоне

Новые технологии совсем рядом

Для экспериментов с ИИ уже достаточно развернуть его модель на домашнем ПК или даже смартфоне.

На ПК

Под любую операционную систему, довольно детальное описание что и как: GitHub - cocktailpeanut/dalai: The simplest way to run LLaMA on your local machine

Типичный ПК с 8GB ОЗУ справится.

На смартфоне

А здесь описано как развернуть эту модель ИИ на смартфоне с Android: Запускаем на телефоне нейронку LLaMa 7B -13B 4 bit от фейсбука с настройкой Alpaca-LoRA – Telegraph

И она будет работать! Её можно обучать дальше и это на совершенно обычном, среднего уровня, смартфоне.

В “массы” ИИ ломанулся перед Новым Годом, с публичным выходом ChatGPT 3.0. Всего три месяца и энтузиасты разворачивают ИИ на всём, что под руки подвернётся. Полгода назад такое даже не представлялось.

Ещё на тему: