GPT4All

Siehe auch

• KI

Das Projekt GPT4All wird von der Firma Nomic AI verwaltet. GPT4All v2.5.0+ unterstützt nur Modelle im GGUF-Format.

GPT4All-J ist ein Apache-2 lizensierter Chatbot, der unter anderem auf Wortprobleme, Multiturn-Dialoge, Code, Gedichte, Lieder und Geschichten trainiert wurde. Er baut auf der GPT4All-Version vom März 2023 auf, indem er auf einem wesentlich grösseren Korpus trainiert, seine Gewichte aus dem Apache-lizenzierten GPT-J-Modell und nicht aus dem GPL-lizenzierten von LLaMA ableitet und eine verbesserte Leistung bei kreativen Aufgaben wie dem Schreiben von Geschichten, Gedichten, Liedern und Theaterstücken demonstriert.

Links

• Webseite: https://gpt4all.io/

• Source Code: https://github.com/nomic-ai/gpt4all

Installation

Download des Installers (einer .run-Datei, offiziell für Ubuntu) von https://gpt4all.io/index.html. Lässt sich aber auch auf einem Fedora nutzen. Und: Es wird zwingend ein GUI benötigt.

Start des Chat-Bots: ~/gpt4all/bin/chat

Wir empfehlen für nicht-kommerzielle Zwecke Stand 2023-11 das von Nomic AI trainierte, knapp 7 GB grosse und auf LLaMA basierende „Snoozy“-Modell. Mindestens 16 GB RAM empfohlen.

Built on 2024-04-18