ИИ на домашнем компьютере или смартфоне
Новые технологии совсем рядом
Для экспериментов с ИИ уже достаточно развернуть его модель на домашнем ПК или даже смартфоне.
На ПК
Под любую операционную систему, довольно детальное описание что и как: GitHub - cocktailpeanut/dalai: The simplest way to run LLaMA on your local machine
Типичный ПК с 8GB ОЗУ справится.
На смартфоне
А здесь описано как развернуть эту модель ИИ на смартфоне с Android: Запускаем на телефоне нейронку LLaMa 7B -13B 4 bit от фейсбука с настройкой Alpaca-LoRA – Telegraph
И она будет работать! Её можно обучать дальше и это на совершенно обычном, среднего уровня, смартфоне.
В “массы” ИИ ломанулся перед Новым Годом, с публичным выходом ChatGPT 3.0. Всего три месяца и энтузиасты разворачивают ИИ на всём, что под руки подвернётся. Полгода назад такое даже не представлялось.