Lokale Ausführung von Sprachmodellen optimiert
Foundry Local ist ein leistungsstarkes Dienstprogramm für Windows, das es Benutzern ermöglicht, kleine Sprachmodelle (SLMs) direkt auf ihrer lokalen Hardware auszuführen. Diese Software nutzt die Möglichkeiten von Azure AI Foundry und gewährleistet, dass alle Datenverarbeitungen auf dem Gerät bleiben. Diese Funktion verbessert den Datenschutz und die Sicherheit, was sie zu einer attraktiven Wahl für sicherheitsbewusste Benutzer macht. Die Benutzeroberfläche ist intuitiv und ermöglicht eine einfache Integration von AI-Funktionalitäten, insbesondere durch die Unterstützung der OpenAI API.
Ein herausragendes Merkmal von Foundry Local ist die Unterstützung von Hardware-Beschleunigung, die die Leistung optimiert, egal ob Benutzer über Standard-CPUs oder fortschrittliche GPU- und NPU-Setups verfügen. Diese Kombination aus Funktionen macht Foundry Local zu einem vielseitigen Werkzeug für Entwickler und AI-Enthusiasten, die maschinelles Lernen und künstliche Intelligenz direkt auf ihren Geräten erkunden möchten.
