KI soll künftig auf allen Ebenen tief in Windows eingebettet sein – dies passend zu den soeben vorgestellten Copilot+ PCs ("Swiss IT Magazine"
berichtete). Microsoft erweitert deshalb den Copilot-Stack in Windows um das neue Windows Copilot Runtime. Damit, so Pavan Davuluri, Corporate VP Windows + Devices bei
Microsoft, soll Windows fundamental transformiert werden, um Entwicklern eine schnellere KI-Entwicklung für Windows-Systeme zu ermöglichen.
Windows Copilot Runtime enthält die Windows Copilot Library. Dabei handelt es sich um eine Reihe von APIs, die von den über 40 KI-Modellen für die Nutzung direkt auf dem Gerät gestützt werden, die im Lieferumfang von Windows enthalten sind. Dazu kommen KI-Frameworks und Toolchains, mit deren Unterstützung Entwickler ihre eigenen KI-Modelle zu Windows portieren können. Damit lässt sich die Power der aktuellen NPUs und GPUs der PCs von Entwicklerseite optimal nutzen.
Neu ist auch Windows Semantic Index. Damit will Microsoft die Suche auf Windows-Systemen neu definieren und neue Nutzererfahrungen wie Recall ermöglichen. Später soll diese Möglichkeit über ein Vector Embeddings API auch Entwicklern zur Verfügung gestellt werden. Damit lässt sich in den entwickelten Anwendungen ein eigener Vektorspeicher erstellen und RAG (Retrieval-Augmented Generation) nutzen.
Neben grossen Sprachmodellen (LLMs) kennen KI-Entwickler auch kleine Sprachmodelle (SLMs), die im Allgemeinen direkt auf den Geräten laufen. In diesem Bereich verfügt Microsoft über ein ganzes Arsenal an Modellen, die in der Phi-3-Serie zusammengefasst sind und gemäss Kevin Scott, CTO von Microsoft und Keynote Speaker an der Build (Bild), konkurrierende Modelle von anderen Anbietern hinsichtlich Qualität übertreffen. Das neueste Mitglied der Phi-3-Reihe nennt sich Phi Silica und ist speziell für den Einsatz auf den NPUs der neuen Copilot+ PCs gemünzt. Damit, so
Microsoft, ist Windows die erste Plattform mit einem hochmodernen Small Language Model (SLM), das speziell für die NPU entwickelt wurde und mit dem PC gleich mitkommt.
Damit Entwickler weitere gängige KI-Modelle bequem nutzen können, führt
Microsoft erstens auf Basis von DirectML nativen PyTorch-Support ein, sodass sich Tausende Hugging-Face-Modelle direkt in Windows nutzen lassen. Ebenfalls via DirectML funktioniert Web Neural Network (WNN). So können Webentwickler die Vorteile des NPUs in den PCs nutzen, um in ihren Webanwendungen leistungsstarke KI-Funktionen bereitzustellen. Und auch abgesehen von KI gibt es in Dev Home neue Produktivitätsfeatures wie Environments, Verbesserungen für WSL, DevDrive und neue Updates für WinUI3 und WPF.
Phi Silica API sowie OCR, Studio Effects, Live Captions und Recall User Activity APIs bringt Microsoft in der Windows Copilot Library im Juni 2024. Weitere APIs wie Vector Embedding, RAG API und Text Summarization folgen später.
(ubi)