Почему вам стоит пользоваться WizardLM 13B Uncensored?

Что такое WizardLM 13B Uncensored?

Расширенная «нецензурная» версия языковой модели WizardLM с 13 миллиардами параметров, обученная на специальном датасете, повышающем её креативность по сравнению со стандартной версией. Благодаря этому нейросеть может генерировать качественные тексты, не обременённые искусственными запретами, ограничивающими креативность и вариативность публикаций.

Как использовать WizardLM 13B Uncensored? 2 способа

Чтобы пользоваться языковой моделью WizardLM 13B Uncensored, сначала вам нужно выбрать, каким именно способом вы будете её запускать — через приложение GPT4ALL, oobabooga text-generation-webui или koboldcpp.

Лично я рекомендую пользоваться GPT4ALL и koboldcpp, потому что они продолжают воспринимать старые файлы даже после обновлений, тогда как oobabooga может глючить после патчей и не работать так, как вы того хотите.

Первый способ установки WizardLM 13B — через GPT4ALL:

• Скачайте дистрибутив ПО с официальной страницы разработчика;
• Установите программу и последние обновления;
• Перейдите в настройки, откройте вкладку Application, затем укажите путь к папке, в которой планируете хранить скачиваемые модели (Download path);
• Измените настройки под себя во вкладках Application и Generation;
• Перейдите во вкладку Downloads;
• Изучите список моделей и нажмите Download, когда найдёте WizardLM 13B Uncensored;
• Дождитесь, пока завершится скачивание нейросети;
• Перезапустите программу;
• Переключитесь на скачанную языковую модель в списке, находящемся в верхней части программы;
• Введите запрос и дождитесь ответа. После можно либо полностью избавиться от текста, нажав на иконку со знаком «Обновить» в правом верхнем углу экрана, либо продолжить генерацию, задавая уточнения в окне чата.

В целом, работа в среде GPT4ALL мало чем отличается от запуска ChatGPT, кроме краткосрочной памяти контекста (локальные нейросети справляются с запоминанием деталей намного хуже) и возможности использования плагинов.

Второй способ использовать WizardLM 13B Uncensored — запустить в koboldcpp:

• Скачайте GGML-файл с языковой моделью с Hugging Face или GPT4ALL;
• Загрузите актуальный дистрибутив koboldcpp (проверить свежие обновления можно тут);
• Откройте браузер;
• Запустите koboldcpp.exe;
• Щёлкните по кнопке Launch;
• Найдите скачанный GGML-файл, затем нажмите на него;
• Дождитесь появления web ui (новой вкладки в браузере);
• Измените настройки в разделе Settings, либо используйте параметры по умолчанию;
• Введите запрос, затем ожидайте формирования ответа;
• Продолжите генерацию текста, нажав на кнопку Submit, либо модифицируйте запрос, добавив новые подробности;
• Чтобы начать новую генерацию или диалог, щёлкните на кнопку New game. Это действие поможет обнулить историю запросов, что будет весьма полезно, если чат заглючит, либо в диалоге начнёт выдаваться бред.

Преимущества WizardLM 13B Uncensored

• Больше разнообразных и качественных ответов, чем в WizardLM 7B;
• Меньше нагрузка на оперативную память, чем в WizardLM 30B Uncensored (10,5-21,7 ГБ против потребления как минимум 20-29 ГБ RAM);
• Оптимальное сочетание скорости и результативности;
• Подходит для создания текстов любой длины, начиная от коротких маркетинговых постов и заканчивая новеллами;
• Сгенерированные публикации легко править, дополнять и использовать в работе;
• Может быть полезным ассистентом для редактора и копирайтера;
• Нет цензуры;
• Выполняет любые запросы, вне зависимости от их направленности;
• Хорошо имитирует авторский стиль и дополняет статьи по заданному образцу.

Недостатки WizardLM 13B Uncensored

• Может чаще «придумывать» ложные факты, чем цензурные модели, поэтому результаты генерации нужно тщательно проверять;
• Не подходит для слабых машин. Чтобы получать ответы без задержек, необходимо не меньше 16-32 ГБ RAM и мощный процессор. На устаревших ПК ответы на запросы будут генерироваться слишком медленно, поэтому модель стоит использовать только со средними и мощными сборками;
• Долгая генерация текста. За то время, пока WizardLM 13B Uncensored выдаст готовый текст, модель с 7 миллиардами параметров сделает в 2-3 раза больше;
• Языковая модель лучше справляется с творческими, чем с математическими задачами. Не стоит доверять ей программный код и сложные вычисления;
• Большой размер файлов. Версии GGML занимают от 7,32 до 13,8 ГБ свободного места на диске без учёта установленных программ, необходимых для запуска нейросети. Если у вас нет дополнительного носителя для установки, а системное пространство заканчивается, это может стать фатальным недостатком.

Почему вам стоит пользоваться WizardLM 13B Uncensored?

Во-первых, это самая сбалансированная модель из всей линейки WizardLM, включая сильно изменённые форки нейросети.

Во-вторых, языковая модель пригодится авторам любого контента, вне зависимости от того, чем вы занимаетесь — рекламой, копирайтингом, фотографией, гайдами для геймеров и анимешников, либо написанием эротических новелл.

Высокое качество генерации, стабильный результат и отличный творческий потенциал нейронной сети - весомые причины использовать WizardLM 13B Uncensored в качестве виртуального ассистента.

С помощью LLM можно дополнить текст, придумать новые идеи, концепции, разработать подробные уроки, контент-план на ближайший месяц, сгенерировать шаблоны для деловой переписки или найти выход из тупика, если стандартного мозгового штурма не хватало, чтобы найти новые идеи для развития бизнеса.

Генерация текста с помощью нейросети - не панацея и не чудо, но прекрасный инструмент, увеличивающий производительность труда. Используя новую языковую модель, лишённую цензуры и предубеждений, вы расширяете свои возможности, получая крутого мини-Джарвиса, помогающего решать самые разнообразные проблемы.

Причём не только полезного, но и безопасного (работающего полностью локально), поэтому можно не опасаться, что ваши данные утекут в сеть или будут использованы конкурентами.

Разумеется, если вы сами не включили обратную связь с разработчиками GPT4ALL (активируется в настройках и подтверждается "значком Wi-Fi" в правом углу приложения), либо используете чужие мощности для ускорения генерации запросов (например, Stable Horde).

Разве это не круто?

Лично для меня главной причиной пользоваться WizardLM 13B Uncensored стало другое — то, что языковая модель отлично справлялась с моими запросами, создавая детальные рассказы и крутые статьи, посвящённые моей основной сфере деятельности (фотографии).

Поэтому вместо тысячи рекомендаций лучше попробуйте запустить нейронную сеть, протестировать её возможности, а после уже сделать вывод, стоит ли использовать LLM. Удачных экспериментов!

Понравилась статья?

Поддержите автора репостом, комментарием, подпиской на Telegram и другие страницы!