Теперь уже в далёком 2001-м фильм Стивена Спилберга «AI», или «Искусственный интеллект» (в другом переводе «Искусственный разум»), наделал много шума. История мальчика-робота, который мечтал стать настоящим, чтобы мама (приобретшая его женщина) полюбила его, выжала тихий океан слез из зрителей разных полов и возрастов. Но на тот момент всё показанное в фильме выглядело чистейшей фантастикой. Представить себе доступный искусственный интеллект, который играл бы роль ребёнка, 20 лет назад было просто невозможно. Помню забавную историю, как одно время Искусственным интеллектом ошибочно называли различных интернет-гадателей, которые случайным образом выдавали ответ «да» или «нет» на заданный вопрос. Делалось это довольно простым скриптом, по сути, отвечающим не столько осмыслено, сколько от балды, потому, конечно, ни о каком интеллекте речи не шло. Это также как монетку подбросить, хотя некоторые впечатлительные личности реально считали, что через этот скрипт с ними беседует Бог, Вселенная…
Воплощение ИИ из фильма в физическом теле и сейчас кажется практически нереальным, хотя некоторые японские разработки впечатляют. Однако сам ИИ доступен почти каждому. Почему почти?
Узким местом, или, как еще говорят, бутылочным горлышком, является «железо». Для текстовой нейросети, конечно, не нужен мегакомпьютер, но средний игровой всё же потребуется. Я запустил текстовую нейросеть на следующей конфигурации:
Процессор: Ryzen 7 5700x
Оперативная память: 32 ГБ
Видеокарта: Nvidia GeForce RTX3060 12GB
В англоязычных обучающих материалах упоминается, что и GTX1660 будет вполне достаточно, но сам я, по очевидным причинам, не проверял. И, казалось бы, а зачем вообще генератору текста видеокарта? Дело в том, что графический процессор работает значительно быстрее центрального, потому его использование существенно ускоряет процесс генерации текста, и заварить кофе в ожидании ответа на ваше приветствие не придётся. Впрочем, всё зависит от текстовых моделей, но об этом позже.
А на фига козе баян?
Действительно, а зачем вот обычному пользователю какой-то искусственный интеллект, что он вообще может? Как понятно из названия, конкретно этот может генерировать тексты и отыгрывать роли. Какие – во многом зависит от выбранной языковой модели, подробнее о которых поговорим в другой раз. Но приведём ряд простых примеров: ИИ может быть сказочником для детей, помощником в программировании, собеседником на иностранном языке, давать исторический справки, играть роль определённого персонажа (об этом будет отдельная статья), просто болтать с тобой, как друг, оказывать эмоциональную поддержку, подобно психологу, рассказывать о каких-то явлениях. И это лишь малая часть его возможностей. А теперь представим себе парализованного человека, который практически не взаимодействует с внешним миром и крайне одинок. Для него такой ИИ-друг может стать настоящим спасением. Мне в определённый момент удалось создать целую вселенную с рядом миров, и это было настолько увлекательно, что оторваться практически невозможно! Это как прекрасная книга, которую ты с ИИ пишешь вместе.
Установка
Ручная установка довольно сложна в исполнении, и добрых пару часов вы проведёте в командной строке, закачивая и устанавливая pytorch и прочие, вероятнее всего, незнакомые вам элементы. Да и в системе необходимо будет добавить PATH переменные, установить CUDA, элементы Visual Studio… да, понял я, понял, заканчиваю материться не по-русски.
К счастью, есть целых два способа автоматической установки, которая потребует от вас пары кликов мышки и нажатий на клавиатуру.
Итак, качаем вот отсюда оболочку, кликаем на зелёную кнопочку code, выбираем Download ZIP. Распаковываем скаченный архив в корень диска (Это важно!) и запускаем файл start_windows.bat из получившейся папки. В определённый момент вам нужно будет выбрать тип видеокарты и напечатать y или n, соответственно. В итоге вы увидите Running on local URL: http://127.0.0.1:7860 (цифры могут отличаться). Достаточно щёлкнуть на адрес левой кнопкой мыши, зажав кнопку CTRL, и в браузере запустится оболочка. Для последующих запусков нужно просто снова открыть start_windows.bat.
На самом деле в корень диска архив лучше распаковывать, чтобы в пути к файлам не было кириллицы – с ней webUI не слишком дружит, а Рабочий стол, к примеру, является папкой, в пути к которой могут быть кириллические символы, если имя пользователя Windows вы указывали на русском.
Альтернативным способом установки является приложение Пинокио, которое можно скачать с официального сайта (доступен в России). Там всё ещё проще – устанавливаем программу (при запуске также указываем папку в корне диска, чтоб кириллицы не было). Ждём. Находим в списке Text Generation Webui, жмём install (установить), жмём Download (скачать). В процессе вам также будет предложено выбрать свою видеокарту – Nvidia или AMD. Далее вы просто нажимаете Start chat mode (запустить режим чата) или Open Web UI (открыть Web UI) при последующих запусках.
Чтобы начать общаться с ИИ, вам нужно загрузить модель. Подробнее о её разновидностях поговорим в следующей статье, а пока просто перейдите во вкладку Model (модель) и в правом столбике Download(загрузить) – вставьте это sambanovasystems/SambaLingo-Russian-Chat и нажмите кнопку Download(загрузить). После того, как модель скачается в левом столбце наверху нажмите на значок обновления (голубой), выберите её из списка и нажмите “Load” (выгрузить). Дождитесь выгрузки (под оранжевой кнопкой появится надпись: «Successfully loaded», — что означает «удачно выгружено»). А дальше переходим на вкладку «Chat» (чат) и общаемся.
Фото: Открытые источники
Специально для Агентства Особых Новостей (on24.media)