Swisscom nimmt ersten Nvidia-Superrechner für KI in Betrieb
28.11.2024 10:24
Ein halbes Jahr nach der Ankündigung ist es so weit: Die Swisscom startet mit den ersten Nvidia-Superrechnern für KI-Anwendungen in der Schweiz in Betrieb. Damit können sich Firmenkunden Rechenleistung für Anwendungen der künstlichen Intelligenz mieten.
Von aussen sehen die 16 Rechnereinheiten des amerikanischen Grafikchipgiganten aus wie die Edelvariante eines Serverblocks: Wo normalerweise Lämpchen um die Wette blinken, hat Nvidia eine quadratische Edelstahlabdeckung angebracht, wie eine Besichtigung eines Rechenzentrums der Swisscom zeigt.
Die 16 Rechnereinheiten von Nvidia brauchen relativ wenig Platz. Über drei Viertel des Raums im Rechenzentrum des «blauen Riesen» stehen noch leer.
Die Module von Nvidia haben es aber in sich: Jedes sei 130 Kilogramm schwer und habe mit einem kleinen Kran ins Servergestell gehoben werden müssen, sagte der Leiter des Rechenzentrum bei einer Führung. Auch der Strombedarf sei enorm und die Kapazitäten pro Serverraum darum begrenzt.
Mit den 16 Rechnereinheiten von Nvidia hat die Swisscom einen halben SuperPod des US-Konzerns in Betrieb genommen. Damit ist die Schweiz halb so gut ausgerüstet wie Italien. Die Mailänder Swisscom-Tochter Fastweb hat bereits einen ganzen Superpod in Betrieb, der aus 32 Modulen besteht.
Rechenpower für KI-Datenmengen
Die Swisscom verwendet die brandneue IT-Power für ihre Schweizer KI-Plattform für Unternehmen, welche nun offiziell lanciert wurde. Dank der hohen Rechenleistung des SuperPods können Firmenkunden grosse Datenmengen verarbeiten zum Beispiel für das Trainieren, Feintunen und Betreiben von KI-Modellen.
Die neue Plattform garantiere die Verarbeitung und Speicherung der Daten in der Schweiz. Die Firmen könnten selber entscheiden, welche Daten sie auf die Plattform übertragen würden, sagte Geschäftskundenleiter Urs Lehner vor den Medien. Man könne grundsätzlich nur in der Schweiz auf die Daten zugreifen, wobei Unternehmen ihre Daten mit ihren internationalen Einheiten teilen könnten. Auch Nvidia selber habe gar keinen Zugriff auf die Daten der Firmenkunden.
Die Schweizer KI-Plattform der Swisscom biete den Kunden neben dem Zugang zu den Nvidia-Supercomputern generative KI-Services, einen Work Hub für die Entwicklung von KI-Lösungen sowie ein generatives KI-Studio.
Die Swisscom testet erste Anwendungen auf der KI-Plattform: So prüft sie zusammen mit der Thurgauer Kantonalbank einen Chatbot. Damit können die Bankangestellten interne Weisungen abfragen, statt sie mühsam aus PDFs zusammensuchen zu müssen. Zudem erarbeitet der Telekomkonzern mit der Thurgauer KB eine Lösung für die automatisierte Beantwortungen von Online-Anfragen von Kunden.
Daneben prüft die Swisscom die automatische Verschriftlichung von Anrufen bei Notfallorganisationen. Sie transkribiert die Anrufe auf Hochdeutsch und erspart damit den Angestellten der Notfallzentralen viel Dokumentationsarbeit. Auch für sich selber arbeitet die Swisscom an einer automatisierten Beantwortung von Anfragen von Firmenkunden.
Swisscom zufrieden mit Nachfrage
Mit dem Interesse von Unternehmenskunden an der KI-Plattform zeigte sich Geschäftsleitungsmitglied Lehner zufrieden. Mit über 50 Firmen und Organisationen sei die Swisscom in sehr fortgeschrittenen Gesprächen und implementiert bereits Testprojekte. Die Nachfrage sei aus vor allem aus der Finanzbranche und dem öffentlichen Sektor stark.
