Welche Textdatensätze sind Beispiele für generative künstliche Intelligenz?
Eine generative künstliche Intelligenz oder generative KI ist eine Art von KI-System, das in der Lage ist, Text, Bilder oder andere Medien als Reaktion auf Aufforderungen zu generieren. Generative KI-Systeme verwenden generative Modelle wie z.B. große Sprachmodelle, um auf der Grundlage des Trainingsdatensatzes, der zu ihrer Erstellung verwendet wurde, neue Daten statistisch zu erfassen.

Zu den bekannten generativen KI-Systemen gehören ChatGPT, ein Chatbot, der von OpenAI unter Verwendung der großen Sprachmodelle GPT-3 und GPT-4 entwickelt wurde, und Bard, ein Chatbot, der von Google unter Verwendung des LaMDA-Modells entwickelt wurde. Zu den anderen generativen KI-Modellen gehören Systeme für künstliche Intelligenz wie Stable Diffusion, Midjourney und DALL-E.

Generative KI kann in einer Vielzahl von Branchen eingesetzt werden, z. B. in der Softwareentwicklung, im Marketing und in der Modebranche. Anfang der 2020er Jahre stiegen die Investitionen in generative KI sprunghaft an, wobei große Unternehmen wie Microsoft, Google und Baidu sowie zahlreiche kleinere Firmen generative KI-Modelle entwickelten.

Modalitäten
Ein detailliertes Ölgemälde mit Figuren in einer futuristischen Opernszene
Théâtre d'Opéra Spatial, ein von Midjourney generiertes Bild
Ein generatives KI-System wird durch die Anwendung von unüberwachtem oder selbstüberwachtem maschinellem Lernen auf einen Datensatz erstellt. Die Fähigkeiten eines generativen KI-Systems hängen von der Modalität oder der Art des verwendeten Datensatzes ab.

Text: Zu den generativen KI-Systemen, die auf Wörtern oder Wortteilchen trainiert werden, gehören GPT-3, LaMDA, LLaMA, BLOOM, GPT-4 und andere (siehe Liste der großen Sprachmodelle). Sie sind in der Lage, natürliche Sprache zu verarbeiten, maschinell zu übersetzen und natürliche Sprache zu generieren und können als Basismodelle für andere Aufgaben verwendet werden. Zu den Datensätzen gehören BookCorpus, Wikipedia und andere (siehe Liste der Textkorpora).
Code: Neben natürlichsprachlichen Texten können große Sprachmodelle auch auf Texten in Programmiersprachen trainiert werden, so dass sie Quellcode für neue Computerprogramme generieren können. Beispiele sind OpenAI Codex.
Bilder: Zu den generativen KI-Systemen, die anhand von Bildern mit Textunterschriften trainiert werden, gehören z. B. Imagen, DALL-E, Midjourney, Stable Diffusion und andere (siehe Künstliche Intelligenz Kunst, Generative Kunst, Synthetische Medien). Sie werden häufig für die Text-Bild-Generierung und die neuronale Stilübertragung verwendet. Zu den Datensätzen gehören LAION-5B und andere (siehe Datensätze in Computer Vision).
Moleküle: Generative KI-Systeme können auf Aminosäuresequenzen oder molekulare Repräsentationen wie SMILES, die DNA oder Proteine darstellen, trainiert werden. Diese Systeme, wie z. B. AlphaFold, werden für die Vorhersage von Proteinstrukturen und die Entdeckung von Medikamenten eingesetzt. Zu den Datensätzen gehören verschiedene biologische Datensätze.
Musik: Generative KI-Systeme wie MusicLM können auf den Audiowellenformen aufgenommener Musik zusammen mit Textkommentaren trainiert werden, um auf der Grundlage von Textbeschreibungen wie "eine beruhigende Geigenmelodie, unterlegt mit einem verzerrten Gitarrenriff" neue Musikbeispiele zu generieren.
Video: Generative KI, die auf kommentierte Videos trainiert wurde, kann zeitlich kohärente Videoclips erzeugen. Beispiele dafür sind Gen1 von RunwayML und Make-A-Video von Meta Platforms.
Multimodal: Ein generatives KI-System kann aus mehreren generativen Modellen bestehen oder aus einem Modell, das auf mehrere Arten von Daten trainiert wurde. Eine Version von OpenAIs GPT-4 akzeptiert zum Beispiel sowohl Text- als auch Bilddaten.
Textdatensätze Beispiele für generative künstliche Intelligenz Zu den Datensätzen gehören BookCorpus, Wikipedia
What text data set examples of Generative artificial intelligence
A generative artificial intelligence or generative AI is a type of AI system capable of generating text, images, or other media in response to prompts.[1][2] Generative AI systems use generative models such as large language models to statistically sample new data based on the training data set that was used to create them.[3]

Notable generative AI systems include ChatGPT, a chatbot built by OpenAI using the GPT-3 and GPT-4 large language models[4] and Bard, a chatbot built by Google using the LaMDA model.[5] Other generative AI models include artificial intelligence art systems such as Stable Diffusion, Midjourney, and DALL-E.[6]

Generative AI has potential applications across a wide range of industries, including software development, marketing, and fashion.[7][8] Investment in generative AI surged during the early 2020s, with large companies such as Microsoft, Google, and Baidu as well as numerous smaller firms developing generative AI models.[1][9][10]

Modalities
A detailed oil painting of figures in a futuristic opera scene
Théâtre d'Opéra Spatial, an image generated by Midjourney
A generative AI system is constructed by applying unsupervised or self-supervised machine learning to a data set. The capabilities of a generative AI system depend on the modality or type of the data set used.

Text: Generative AI systems trained on words or word tokens include GPT-3, LaMDA, LLaMA, BLOOM, GPT-4, and others (see List of large language models). They are capable of natural language processing, machine translation, and natural language generation and can be used as foundation models for other tasks.[11] Data sets include BookCorpus, Wikipedia, and others (see List of text corpora).
Code: In addition to natural language text, large language models can be trained on programming language text, allowing them to generate source code for new computer programs.[12] Examples include OpenAI Codex.
Images: Generative AI systems trained on sets of images with text captions include such as Imagen, DALL-E, Midjourney, Stable Diffusion and others (see Artificial intelligence art, Generative art, Synthetic media). They are commonly used for text-to-image generation and neural style transfer.[13] Datasets include LAION-5B and others (See Datasets in computer vision).
Molecules: Generative AI systems can be trained on sequences of amino acids or molecular representations such as SMILES representing DNA or proteins. These systems, such as AlphaFold, are used for protein structure prediction and drug discovery.[14] Datasets include various biological datasets.
Music: Generative AI systems such as MusicLM can be trained on the audio waveforms of recorded music along with text annotations, in order to generate new musical samples based on text descriptions such as "a calming violin melody backed by a distorted guitar riff".[15]
Video: Generative AI trained on annotated video can generate temporally-coherent video clips. Examples include Gen1 by RunwayML[16] and Make-A-Video by Meta Platforms.[17]
Multimodal: A generative AI system can be built from multiple generative models, or one model trained on multiple types of data. For example, one version of OpenAI's GPT-4 accepts both text and image inputs.[18]
text data set examples of Generative artificial intelligence Data sets include BookCorpus, Wikipedia