Zum Inhalt springen

Azure AI Foundry

Azure AI Foundry ist Microsofts Plattform zum Deployen und Nutzen von KI-Modellen in der Azure-Cloud. Unternehmen können darüber u. a. Claude-Modelle von Anthropic oder OpenAI-Modelle verbrauchsbasiert einbinden, ohne eigene KI-Infrastruktur aufzubauen.

Azure AI FoundryGlossarAzure AI Foundry ist Microsofts Plattform zum Deployen und Nutzen von KI-Modellen in der Azure-Cloud. Unternehmen können darüber u. a. Claude-Modelle von Anthropic oder OpenAI-Modelle verbrauchsbasiert einbinden, ohne eigene KI-Infrastruktur aufzubauen. (früher Azure AI Studio) ist Microsofts Werkbank für individuelle KI-Lösungen in Azure. Statt nur einen fertigen Assistenten zu nutzen, wählen Unternehmen Modelle, hängen Daten an, testen Prompts und betreiben Anwendungen unter eigener Kontrolle, Governance und Kostensteuerung.

Was die Plattform bündelt

  • Zugang zu einer großen Modellauswahl: OpenAI-Modelle, Anthropic Claude, weitere Foundation- und Open-Source-Modelle
  • Werkzeuge für Prompt-Arbeit, Evaluierung, Fine-Tuning und Monitoring
  • Bausteine für RAG-Pipelines (Unternehmenswissen als Kontext)
  • Deployment in der eigenen Azure-Umgebung, inklusive Unternehmens-Identität und Netzwerkkontrollen

Azure OpenAIGlossarAzure OpenAI ist Microsofts Azure-Dienst für OpenAI-Modelle (z. B. GPT) im eigenen Azure-Abonnement. Unternehmen nutzen leistungsfähige LLMs mit Azure-Identität, Regionenwahl und Unternehmens-Compliance statt über öffentliche Consumer-Chatbots. ist dabei ein wichtiger Baustein, Foundry die übergeordnete Plattform drumherum.

Wie der Einstieg typischerweise läuft

  1. Use Case und Modellwahl: Standard-LLM mit RAGGlossarRAG ist eine Technik, bei der ein KI-Modell vor dem Antworten gezielt relevante Dokumente aus einer Wissensdatenbank abruft. So entstehen aktuelle, quellenbasierte Antworten statt ausgedachter Informationen. oft zuerst, Fine-Tuning nur bei klarer Fachsprache oder Formatnot
  2. Daten anbinden: Dokumente, Fachsysteme, APIs; Berechtigungen und Residenz klären
  3. Bauen und messen: Prompt-Versionen, Testfragen, HalluzinationsGlossarHalluzination bezeichnet das Phänomen, dass KI-Modelle sachlich falsche Informationen selbstsicher und plausibel klingend präsentieren. Eines der wichtigsten Risiken beim produktiven Einsatz von KI.- und Qualitätschecks
  4. Betreiben: Kosten, Latenz, Drift und Modell-Updates im Blick behalten

Relevanz für den Mittelstand

Microsoft 365 Copilot deckt den Arbeitsalltag in Word, Excel, Teams ab. Foundry wird interessant, wenn Standard-Copilot nicht reicht: branchenspezifische Assistenten, Einbettung in Fachanwendungen, strengere Datenhaltung in Azure oder Modellwahl jenseits der Copilot-Defaults. Viele KMU starten mit RAG auf vorhandenen Dokumenten, ohne ein Data-Science-Team aufzubauen.

In Copilot Studio können über Foundry auch externe Modelle (z. B. Claude) für Agenten wählbar sein. MCP und Werkzeug-Anbindungen erweitern, was Agenten in Unternehmenssystemen tun dürfen.

Abgrenzung

Azure AI FoundryMicrosoft 365 CopilotCopilot StudioGlossarMicrosoft Copilot Studio ist eine Low-Code-Plattform, um eigene KI-Agenten zu bauen, zu testen und zu veröffentlichen. Ohne tiefe Programmierkenntnisse, aber mit vollem Zugriff auf das Microsoft-365-Ökosystem.
RolleModell- und App-Plattform in AzureFertiger Assistent in M365-AppsLow-CodeGlossarLow-Code bezeichnet die Entwicklung von Apps und Automatisierungen mit visuellen Baukästen statt klassischer Programmierung. Fachbereiche liefern schneller lauffähige Lösungen — IT und Governance bleiben für Sicherheit, Lizenzen und Betrieb nötig.-Bau eigener Agenten
DatenAzure-Ressourcen, eigene PipelinesMicrosoft Graph / TenantGlossarEin Tenant (deutsch: Mandant) ist die isolierte Microsoft-365-Umgebung eines Unternehmens. Alle Nutzer, Daten, Lizenzen und Konfigurationen eines Kunden sind in einem eigenen Tenant getrennt von anderen Organisationen.Wissensquellen + Aktionen konfigurierbar
Für wenIT, Entwickler, KI-ProjekteAlle lizenzierten M365-NutzerFachnahe Maker und Admins

Kurz: Copilot ist das fertige Produkt am Arbeitsplatz, Foundry die Cloud-Werkbank für Custom AI, Copilot Studio die Brücke zu eigenen Agenten, oft mit Foundry-Modellen im Hintergrund.

microsoft azure plattform grundlagen

KI strategisch in Ihrem Unternehmen einsetzen?

Im kostenlosen Erstgespräch analysieren wir gemeinsam Ihr Potenzial.

WARUM KOSTENLOS? WEIL WIR ZUERST WISSEN WOLLEN, OB ES PASST.