Unternehmen nutzen ChatGPT & Co – aber wie viel Kontrolle behalten sie dabei? Wem gehört die KI-Infrastruktur, wohin fließen unsere Daten und wie können Unternehmen trotz internationaler Plattformen handlungsfähig bleiben? In Folge #35 geht es um: - Technologie-, Daten- und Betriebssouveränität - Abhängigkeiten erkennen und echte Wahlmöglichkeiten behalten - offene oder kleinere Modelle und modulare IT-Architektur - regionale Partner und geteilte Infrastruktur für KMU - den ersten konkreten Schritt: KI-Nutzung und Datenflüsse sichtbar machen Gesprächspartner Julian Just ist AI & Innovation Expert bei der AI Factory Austria und Postdoc-Forscher an der Universität Innsbruck.
KI Souveräntität – wie abhängig sind wir wirklich?
Private wie Unternehmen nutzen ChatGPT und andere KI-Werkzeuge für Texte, Bilder, Analysen und Entscheidungen. Doch wem gehört die Infrastruktur dahinter? Wo liegen unsere Daten – und wie viel Wissen und Wertschöpfung bleiben in Österreich oder Europa?
In Folge #35 spricht Petra Liebl mit Julian Just darüber, wie Unternehmen trotz internationaler Plattformen handlungs- und entscheidungsfähig bleiben.
Julian unterscheidet drei Dimensionen:
- Technologiesouveränität: Wahlmöglichkeiten bei Hardware, Software und Modellen
- Datensouveränität: Speicherort, Zugriffe und transparente Datenflüsse
- Betriebssouveränität: eigener Betrieb oder Zusammenarbeit mit regionalen Partnern
Souveränität bedeutet nicht Autarkie. Es geht darum, Abhängigkeiten zu erkennen, Alternativen zu entwickeln und Entscheidungen treffen zu können.
Darum geht es in dieser Folge
- wo in der KI-Wertschöpfungskette Kontrolle und Nutzen entstehen
- wie offene und kleinere Modelle neue Wahlmöglichkeiten schaffen
- warum eine modulare IT-Architektur den Anbieterwechsel erleichtert
- weshalb regionale Infrastruktur Kooperation und Pooling braucht
- wie Unternehmen ihre KI-Nutzung, Datenflüsse und Abhängigkeiten prüfen können
Die wichtigsten Erkenntnisse
1. Souveränität heißt, handlungsfähig zu bleiben:
Internationale Dienste können sinnvoll sein – entscheidend sind echte Alternativen.
2. Modellwahl und Modularität schaffen Wechselmöglichkeiten:
Nicht jede Aufgabe braucht das größte Modell; austauschbare Schnittstellen reduzieren Abhängigkeiten.
3. Betriebssouveränität ist für KMU meist eine Gemeinschaftsaufgabe:
Regionale Partner und geteilte Infrastruktur sind realistischer als ein eigenes Rechenzentrum.
4. Der erste Schritt ist Transparenz:
Welche Werkzeuge werden genutzt, wohin fließen Daten und welche Anwendungen sind kritisch?
Gesprächspartner
Julian Just: AI & Innovation Expert bei der AI Factory Austria (AI:AT) und Postdoc-Forscher am Institut für Management und Marketing der Universität Innsbruck.
Links und Anlaufstellen
Im Gespräch genannte österreichische Angebote:
Ergänzende regionale Umsetzer:
Über den Podcast
„Vom Hype zum Handeln“ ordnet KI-Entwicklungen ein, spricht mit Experten und Praktiker:innen, die zeigen, wie digitale Transformation konkret gestaltet werden kann.
Host Petra Liebl verbindet als Onlineexpertin und zertifizierte Digitalberaterin Strategie, digitales Marketing und KI zu praxistauglichen Lösungen für Unternehmen. Content Bakery · KI-Marketingassistent FELIX
Wir fragen Chat-GPT, speichern Daten in der Cloud und nutzen KI-Werkzeuge für Texte, Bilder, Analysen und Entscheidungen. Das ist praktisch, schnell und liefert oft beeindruckende Ergebnisse.
Aber wem gehört eigentlich diese Infrastruktur, die dahintersteckt? Wo liegen unsere Daten? Und wer verdient an unserer Nutzung dieser KI-Tools? Bleibt da auch Wissen und Wertschöpfung in Österreich oder Europa?
In dieser Folge von Vom Hype zum Handeln geht es KI-Souveränität. Dabei beleuchten wir nicht die Frage der internationalen Anbieter, sondern wir wollen wissen, wie abhängig sind wir denn bereits als Unternehmen, Regionen oder Staaten und was können wir tun, dass es auch morgen noch echte Wahlmöglichkeiten gibt?
Darüber spreche ich heute mit Julian Just. Julian ist als AI und Innovation Expert an der AI Factory Austria tätig.
Julian forscht vorwiegend dazu, wie KI auch die frühe Phase von Innovationsprozessen verändern kann an der Uni und beschäftigt sich mit KI-Souveränität.
Hallo Julian, schön, dass du da bist.
Servus, Petra. Freut mich, dass ich da bin.
wenn man uns den Begriff anschauen könnte für jemanden, der sich jetzt nicht so damit beschäftigt, wie sie sperrig wirken, KI, Souveränität, was ist damit gemeint oder wie würde man denn merken, wie souverän man mit KI umgeht, hat das mit dem Handling zu tun oder mit ganz was anderen?
Ja, man kann ihn sicher selbst auslegen, wie man will, den Begriff. meine, der Begriff im Moment hingeht, ist jetzt nicht seit gestern, sondern eher schon seit vorgestern, schwirrt dieser Begriff vor allem bei uns in Europa herum, weil wir auch den Zug in manchen Bereichen der KI-Entwicklung nicht ganz erwischt haben. Was ist es, was steckt dahinter? hast das, glaube ich, eher schon kurz gesagt, es geht jetzt nicht darum, autark zu sein, es geht darum,
Entscheidungsmöglichkeiten zu haben und Abhängigkeiten zu reduzieren. Man kann diesen Begriff der KI-Souveränität dann auch noch ein bisschen runterbrechen. Da gibt es, ich, drei schöne Begriffe, die das dann ein bisschen angreifbarer machen. Der erste wäre die Technologiesouveränität,
habe ich Aktionsmöglichkeiten, was die Hardware betrifft, was vor allem auch die Software betrifft dahinter, die Modelle.
Kann ich da eigene Entscheidungen treffen oder bin ich total abhängig von ganz wenigen marktdominierenden Akteuren? Das wäre das eine. Es geht dann auch die Datensouveränität. Das heißt, ich Zugriff, kann ich entscheiden, wo meine Daten sind? Habe ich auch die Transparenz, zu wissen, was da gerade passiert? Das kann mir jetzt persönlich einfach interessieren, weil ich es wichtig finde, aber oft bin ich halt
tätig in einem Bereich.
wo das einfach notwendig ist, wo es sehr sensible Bereiche
Das ist der eine Punkt. Und dann gibt es auch noch einen dritten Punkt,
der nennt sich ja mehr oder weniger Betriebssouveränität. Da geht es dann einfach darum, kann ich das Ganze überhaupt selber laufen lassen? weil KI ist ja nicht irgendwo abstrakt unterwegs, das findet auch statt in Rechenzentren, kann ich sowas überhaupt betreiben?
habe ich überhaupt das Wissen, das Know-how dafür in meiner Region oder geht das sowieso nur mehr
mit den Großen von der anderen Seite des Atlantiks und das sind so die drei Aspekte von einer KI-Souveränität, die man sich so durch überlegen kann.
Ja, spannend. Es ist ein breites Feld, logisch, weil es ja den Einsatz des Ganzen, Technologie und dem Betrieb, wie du beschrieben
alles mit einbezieht. Jetzt, wenn wir das ein bisschen aufdröseln und dann mal den ersten vielleicht anschauen, du hast gesagt, es geht ja auch technologische Souveränität. Da gibt es ja so Begriffe wie Digitalisierung ist grundsätzlich schon ein bisschen abstrakt, die Clioud natürlich auch
Sind wir da in der Richtung? Sollten wir uns anschauen, welche Schichten haben so KI-Anwendungen und was können wir tun? Weil du hast gesagt, es geht ja darum, wir wollen uns nicht so abhängig machen. wenn wir als österreichisches Unternehmen Chat GPT oder irgendeinen anderen Cloud-Dienst nutzen. Wo genau geht denn das hin und wo läuft die Wertschöpfung?
Ja, das
relativ unklar, wo das genau hingeht. Da gibt es auch oft viele
Wahrscheinlich geht es schon irgendwo einmal in die USA, weil dort die großen Rechenzentren
Man darf auch sagen, Chat GPT versucht, auch in Europa Kapazitäten aufzubauen. Also Open AI, dahinterstecken, aber auch Google, auch Anthropic Jeder versucht, auch Kapazitäten nach Europa zu bekommen.
Ja, das ist schön und gut, aber wir wissen, dass
trotzdem noch von
nicht europäischen und auch nicht österreichischen Unternehmen kontrolliert wird. Kontrolle ist das eine und dann das nächste wird natürlich auch die Wertschöpfung, die natürlich dann auch nicht in Europa
Da sind wir natürlich weit
Wir haben vielleicht gehört, was für ein Waren- Handelsdefizit die USA gegenüber Europa hatte. Das hat mal jemand gesagt, groß durch die Gegend.
Getrommelt. Umgekehrt, wenn wir uns diese digitalen Services anschauen, schaut es genau gegenteilig aus. Das haben wir ein extremes Defizit und es kommt daher. Also ich denke da Souveränität auch immer gerne mit Wertschöpfung mit. Also sowas wie die große Schwester von der Souveränität ist die Wertschöpfung. Ich glaube, der ist recht plakativ, auch wenn man so in Regionen denkt. Wie jetzt hier in Tirol, in Österreich, in Europa.
Das ist glaube ich ganz wichtig. Aber du hast mir auch angesprochen, was ist jetzt diese Technologie? Also was sind diese Schichten? und in diesen Schichten entsteht ja die Wertschöpfung und da entscheidet sich, wer die stärkste Position hat und wer dann am meisten davon mitnehmen kann. ich finde, sollte man auch schon einmal
ganz fundamental bei der Energie anfangen, wenn wir jetzt unten starten, also wo die Ressourcen herkommen, ganz oben ist dann der Nutzer, der Anwender oder die Anwenderin und ganz unten starten wir mit der Energie, die Ressourcen, irgendwie Materialien, die Natur. KI ist
Technologie, die irgendwo in der Luft, in der Cloud herumschwirrt, die verbraucht Ressourcen,
da müssen wir uns bewusst sein.
Darf ich da gerade
einhaken? Es werden ja aktuell in Deutschland relativ große Rechenzentren gebaut
bei uns gibt es halt dann immer die Frage, ist das gerechtfertigt? Weil diese Nutzenabwägung, ist die Umwelt mehr wert oder ist jetzt eben das wirtschaftliche Interesse mehr wert? Und wenn man sich dann anschaut, einfach dein Argument zu stützen, wie das ausschaut in den USA, wo dann
in einer Alley schon 300 von diesen Rechenzentren stehen und noch 200 gebaut werden sollen und die Anrainer sagen, schrecklich, da ist keine Natur mehr da und unsere Kinder wachsen neben solchen Blöcken auf Und was ist mit Wasser? Bei uns in Europa wird das verhandelt, glaube mit den Bürgern. Ich denke, dass da in USA oftmals das schneller einfach gebaut werden darf.
So ist es wahrscheinlich aus.
schießen ja die neuesten Milliarden Investments durch die Gegend. Erst das heute habe ich gelesen,
die ganzen
Wall Street Investmentbanken und
zur Verfügung stellen. da bin ich auch immerhin wieder hin und her gerissen, weil ich persönlich auch extrem nachhaltig denkender und auch handelnder so gut wie möglich Mensch bin.
Man kann einerseits sagen, KI wird uns insgesamt
mehr Nachhaltigkeit bringen, weil es einfach zu guten Entscheidungen und zu neuen Technologien führen kann. Das ist aber immer recht abstrakt. Und ich finde, bin von dem Argument nicht überzeugt. Wir sollten schon hier und jetzt uns überlegen, was machen wir. Und ich glaube, es ist wichtig, dass wir Kontrolle darüber haben und selber entscheiden, wie setzen wir ein Rechenzentrum auf.
Wie planen wir das? Wo stellen wir das hin? Wo kann das so möglichst umweltverträglich gemacht werden? Es wird nie perfekt sein, aber wir müssen auch wissen, dass es kommt und wir entscheiden jetzt, wie es kommt.
Das ist, glaube ich, ganz guter Punkt, dass man sagt, souverän heißt halt auch, sich nicht wegducken, nicht die Augen verschließen, selbst wenn die großen Investments, wie du es jetzt beschrieben hast, eben was Nvidia gerade wieder oder wie groß die Konsortien sind, die da was
und wie das in Europa dahinter herhinkt. Wir müssen uns mit diesen Themen auseinandersetzen und Möglichkeiten in unserem Raum entschauen.
Ja, und die Möglichkeiten gibt's. Davon bin ich überzeugt. Ich glaube, wir haben auch das Know-how, wie man ein gutes Energiesystem aufsetzt, wie man da die Infrastruktur so aufbaut. Wir haben,
glaube ich, besseres Stromnetz als die USA, ohne dass ich da jetzt Experte bin.
diese Kompetenzen hier nutzen, weil KI wir sehr viel mit Energie zu tun haben. Und wenn man darüber redet, was wird irgendwann noch mal das bottleneck sein, also
Wo stehen wir an mit den Ressourcen? Kann es eventuell auch bald mal die Energie sein? Und dann müssen wir natürlich auch
demokratischen Verfahren die Leute mitnehmen. Es geht aber darum, den Leuten aufzuzeigen, welche Potenziale dahinter stecken und was die Alternative ist, wenn wir das nicht machen.
aktuell baut halt Google ein Rechenzentrum, weil in Deutschland gibt es cool Initiativen, aber in Österreich kenne ich jetzt persönlich wenige.
wo mal
Unternehmen sagen, ja, da gehe ich jetzt rein, da investiere ich, da ist das Know-how, da haben wir jetzt wieder eine Google-Rechenzentrums-Diskussion. In Deutschland gibt es das mit der Schwarzgruppe und ein paar andere, in Frankreich gibt es auch ein bisschen mehr, aber ich denke, hier müssen wir einfach das Zepter in die Hand nehmen und dürfen uns da nicht ergeben, weil irgendwann steht dann die ganze Infrastruktur und dann sind wir nicht Teil davon und das wollen wir natürlich auch nicht.
Genau,
und das würde genau der Idee der Souveränität
widersprechen, selbst wenn man nicht Autarkie erlangt, müssen wir Schritte gehen. also sagst da steckt Infrastruktur dahinter, Eigentum wirtschaftliche Interessen dahinter und wenn man sich wegduckt, verzichtet man einfach drauf und macht sich abhängig. Das ist jetzt mal nur, wenn man keine Tools nutzt, vielleicht gar nicht so ein Vorderkopf, jetzt haben wir es dahingerückt.
Ja, ich verstehe auch jeden. will Chat GPT oder auch der Claude sind super und ich als Nutzer kann mich nicht mit allem beschäftigen, was da dahinter steckt. Aber es müssen ein andere Leute, ein Akteure bei uns, damit beschäftigen. Mit Angeboten geschafft werden.
das
Genau, dass wir das richtige Angebot kriegen. Also du sagst auch, bei Souveränität wollen wir nicht den Eindruck, oder du möchtest nicht den Eindruck erwecken, es geht Autarkie. Man will auch nicht den Eindruck erwecken, man kann diese großen Modelle nicht mehr benutzen oder andere Open Source,
Was bedeutet denn Souveränität dann? Was bedeutet es denn stattdessen? Was überlegt man sich denn da?
Ja, ich denke mal, dass es darum geht, dass ich selber handlungsfähig bin in die Zukunft gedacht. ich finde, du hast jetzt gerade Open Source angesprochen oder Open-Weigth-Modelle, weil viele der aktuellen Modelle, da werden nur mehr Teile komplett Open Source gemacht. Es gibt immer noch welche. Und das ist eine super Möglichkeit für uns hier auch auf dieser nächsten Schicht, quasi wenn wir unten die Energie haben.
Bei der Hardware ist es ein bisschen schwieriger, da sind wir extrem abhängig von einem paar aber das kann sich
ändern, ein paar Jahre, aber in
Zeit wird es sich sicher nicht ändern. Aber dann die Modellebene
den Open Source Modellen, glaube ich, da können wir handlungsfähiger werden. Ich meine, man kann natürlich sagen, ich bin handlungsfähiger, weil ich habe einen Chat GPt-Account, ich habe einen Claude-Account, ich habe einen Gemini-Account, ich habe noch Mistral-Account irgendwo und...
die werden schon nicht alle drei gleichzeitig ausfallen und es wird auch niemand den Kill-Switch ziehen. Ja, das stimmt schon, aber dann habe ich natürlich von den Kosten her ein Thema. Open Source ist recht interessant, was auch Kosten betrifft, die sind nämlich per Token, was quasi die Einheit ist. Relativ ...
weniger als jetzt irgendwas von den von den größeren Paid Services. Und ich glaube, das ist das ist wichtig, sich mal zu überlegen, was gibt es da alles? Ich verstehe schon, dass man wenig Zeit hat im Alltag und es ist leicht, diesen Abo abzuschließen. Und dann haben wir das einmal. Das passt. Deswegen sage ich, es müssen Alternativangebote kommen. Aber die gibt es auch schon vereinzelt Die sind noch nicht so präsent und das muss sich aufbauen. Es wird sich, glaube ich, auch aufbauen in nächster Zeit. Aber da ein bisschen.
überlegen, was bedeutet mein Handeln eigentlich.
Ja,
du beschreibst es schon, es geht bei Souveränität natürlich auch Datenschutz, du hast ja die Anbieter jetzt angesprochen und wir wissen, auch wenn ich jetzt einfach ein Abo-X abschließe oder wenn ich jetzt zum Beispiel für mein Tool verwende diese APIs, wo du gesagt hast, die danach trocken, abgeeignet werden, wir schicken die Daten dorthin, wo diese Modelle sitzen und zu diesen Anbietern und die können damit was machen oder auch nicht, wir wissen es einfach nicht.
bei Open Weight auch nicht anders, Deep Seek. Es gibt jetzt noch viele weitere, aber auch da stecken Konzerne dahinter.
Ja, in der Entwicklung vom Modell selbst schon, aber dann, wenn ich es irgendwo nutzbar machen will, sprich, wenn ich es Hardware oder im Rechenzentrum machen will, dann ist das nicht mehr so. Dann nehme ich mir einfach von HuggingFace zum Beispiel die Endpoints vom Modell und lasse die dann woanders laufen, da bekommt Deep Seek oder wer auch immer keine Daten mehr.
Und jetzt frage ich dich, wo kann ich denn hingehen? Genau das möchte ich jetzt. Du hast mir Lust darauf gemacht. Du weißt vielleicht sogar schon, dass ich danach auch suche für mein kleines, feines KI-Tool, das ich da laufen habe. Also insofern, an wen wende ich mich am besten? An die AI Factory oder gibt es da andere?
Ja, kannst mit dem Felix, finde ich übrigens einen super sympathischen Namen von deinem Tool, es gibt erstens einmal, die Clouds in Deutschland und in Frankreich Da kann man jetzt auch einmal hingehen. ist der erste Schritt. Es gibt auch ein paar kleine
Anbieter in Österreich.
Wenn es wirklich den User geht, fällt mir jetzt gleich Eustella ein. sitzen auch bei der AI Factory Austria in Wien. Es gibt dann noch so, ich nenne jetzt ein paar Namen, die mir untergekommen sind, Cortex, sitzen glaube ich auch in Wien. Dann gibt es Token Europe, sind glaube ich in Oberösterreich. Es formiert sich so kleine Projekte,
es reicht halt noch nicht aus, wirklich da konkurrenzfähig zu sein. Man braucht einfach eine große Infrastruktur.
Die werden wir jetzt, also AiFactory Austria im Vergleich zu den Hyperscalern etc. auch nicht liefern können, aber wir schaffen auch, 50 Millionen glaube ich, ist von der EU und von Land Österreich gefördert, da wird dann in Wien stehen ein Supercomputer mit den klassischen Nvidia-Clustern an, den gibt's dann ab nächstem Jahr. Ist jetzt nicht so gedacht, dass das was Kommerzielles ist.
Es gibt Zugang in einem gewissen Kontingent für unterschiedliche Leute. Da kann man reinstarten, herauszufinden, wie muss ich es aufsetzen, was brauche ich, weil das Modell funktioniert für mich, was brauche ich fürs Training, was brauche für die Inferenz. Es auch immer eine Frage, ob ich mich eher
bei den Rechenzentren auf Inferenz oder aufs
Man kann jetzt auch schon was finden. Ich kenne jetzt ein paar in
die sagen, ich bin jetzt derweil bei den deutschen Clouds etc. Aber eigentlich, wenn es was in Tirol gab, bin ich der Erste, wechselt.
Genau, okay, mal gut zu wissen. Es gibt verschiedene Anlaufstellen. werden die zusammentragen und in die Show Notes schreiben für Interessierte.
Und es gibt die Möglichkeit bei diversen Stellen, man darf da ja gerne die Wirtschaftskammer nennen für Unternehmer, dass die dort hingehen. Die haben sicher die Kontakte überall hin und auch zu euch und sich dort informieren. Aber man muss vielleicht, so als du mir heute, auch gerade mal darauf hinweisen, dass es die Möglichkeiten gibt.
Ja, das ist glaube ich das Wichtigste.
Ja, genau.
Du hast dann schon angesprochen, wenn man von dem Technologischen, das jedem wahrscheinlich, wenn es KI geht, als erstes einfällt. Wir haben auch gesprochen, da geht es Chips, geht Supercomputer, es geht Modelle und Infrastruktur. Wir haben ganz kurz schon auf den zweiten Punkt der Souveränität, den du eingangs genannt hast, also nach der technischen, diese Datensouveränität, ganz kurz referenziert, sagen, wohin gehen die Daten, wo entfließen die? Das kann man eben durch dieses Eigenhosting oder
diese Rechner und die API-Modelle, die man dort nutzt, doch lenken. Das ist ja das, was wir eigentlich wollen. wenn man da jetzt ansetzen will, wird ja immer wieder Mistral genannt, zum Beispiel, würdest du da sagen, sollte man da inzwischen, wenn wir jetzt die Infrastrukturen nicht haben, von denen wir gerade gesprochen haben, inzwischen auch von europäischen Anbieter gehen oder reicht es so, die deutsche Cloud zu verwenden, von der du gesprochen hast?
Ich persönlich bin dafür, dass man immer so regional wie möglich versucht, die Wertschöpfung zu halten. Nicht nur bei KI, auch überall woanders. Aber ich verstehe
muss funktionieren. Es muss einfach top sein. Und das ist das, was Unternehmen brauchen. Was man da vielleicht jetzt aus Unternehmenssicht zu überlegen kann, ist, was sind eigentlich die Modelle, die ich wirklich brauche für diesen...
Workflow, den ich da gerade habe. Brauche ich da jetzt mal das super teure Modell oder reicht da was Simpleres auch? Das ist so ein Gedanke, den ich
sagen würde, das macht Sinn, sich da eine Strategie zu überlegen.
Übrigens
populärsten Modelle aktuell auch bei Open Router und so, das sind auch Modelle, die dann wieder dann orchestrieren und das Sakana AI heißt das zum Beispiel, und eigentlich funktionieren auch die großen Modelle manchmal, sodass sie dann, je nachdem was sie identifizieren, eher auf ein kleineres Modell zurückgreifen.
Also hier, da geht es ja auch Ressourcen wieder schlussendlich. Hier sehe ich eigentlich einen großen Hebel, den ein Unternehmen setzen kann und dann sind auch
viele europäische Modelle, weil du Mistral angesprochen hast, werden viele Aufgaben von Mistral auch gelöst werden können und vielleicht kommt Mistral auch bald wieder mit einem Top-Modell.
das dann auch wieder Open Source ist. machen auch über API, die machen beides, je nachdem, ob sich jetzt jemand das selbst aufsetzen will oder einfach wirklich Konsument ist. Vielleicht können wir da wieder in Europa aufholen, aber ansonsten kann man auch mit anderen Open Source Modellen, von amerikanischen Open Source, Nvidia zum Beispiel macht gute Modelle auch oder man nimmt eben auch was aus China und so was aufbauen.
natürlich das Bereitstellen davon, das muss auch von jemandem lokal hier passieren, sprich Betriebssouveränität und da geht es einfach darum, die richtigen Experten zu finden und irgendwie von der Dimension mitzuhalten, dann muss man auch in die Infrastruktur investieren und einmal jemand Kapital in die Hand nehmen, ein großes Rechenzentrum wo hinzustellen, dann sind wir da auch vielleicht wieder ein bisschen näher.
Es gibt Leute, die hoffentlich Diese Vision auch verfolgen und wahrscheinlich seid ihr da schon mit einigen im Gespräch.
Die gibt es ein paar sagen es öffentlicher, ein paar sagen es weniger öffentlich.
Man wartet da natürlich auch ab. Es herrscht jetzt gerade diese, glaube ich, negative Stimmung, zumindest in ein paar Medien durch dieses Google-Rechenzentrum. Man muss ja trotzdem überlegen, will man als Österreicher mitmachen, will man da Wertschöpfung machen? muss ja halt verstehen, es werden in Zukunft halt nicht mehr so viele Autos gekauft, aber es wird viel KI genutzt. muss ich halt schauen, okay, es wird viel KI genutzt.
Wie kann ich da Kontrolle haben? Wie kann ich daran auch mitverdienen und auch entscheiden, wie es gemacht wird? Sprich Wasserverbrauch, Wasserverbrauch finde ich sowieso auch ein interessantes Thema. Es wird ja nicht Wasser verbraucht. Es wird nur erwärmt,
es ein Cluster kühlt. Das Wasser ist ja dann nicht automatisch weg.
Es wird natürlich wärmer und das muss man anschauen, prüfen, welche Menge kann ich dann wieder zurückgeben. Aber es muss da einfach auch ein bisschen sachlicher und weniger emotional und auch ein bisschen in die Zukunft gedacht werden, wo entwickelt sich unsere Wirtschaft hin, weil irgendwie muss das Sozialsystem dann auch finanziert werden schlussendlich.
Die Leute wollen hier wohnen bleiben und gute Möglichkeiten haben, Auskommen zu verdienen. Absolut. Jetzt hast du angesprochen die operationale Sicherheit. Also von den Daten haben wir gesprochen, von der Technologie haben wir gesprochen und dann, eben hast du jetzt auch schon erwähnt, es geht ja darum, das zu betreiben. wenn man das Modell hat, da hast du schon gesprochen, da geht es Wissen, man kann aber eben verschiedene auch kombinieren. Da kann man sich ja irgendwie behelfen, wenn ich die...
richtig interpretiere. Jetzt da bei der operationalen Sicherheit, was kann der Betrieb, was kann jetzt ein Unternehmen tun,
Ich glaube, das einzelne Unternehmen wird in vielen Fällen das nicht machen können, braucht ein Partner. Beim Unternehmen selbst ist es relativ utopisch. Betriebssouveränität meine ich dann halt, dass ich das auch irgendwo poolt und irgendwo in der Region ein Anbieter ist, der da wirklich Expertenwissen hat.
Ich brauche bei der Technologie viele Anfragen, die
zur gleichen Zeit schön verteilen kann, weil dann der einzelne Token günstiger wird. Sprich, wenn jeder nur das Top-Modell in den Keller stellt, ist das extrem ineffizient, auch wirtschaftlich gesehen. Und das Pooling macht auch viel Sinn, dann auch Lastenausgleich zu machen. Hier, glaube ich, steigt da viel Innovationspotenzial, wie man
die KI Nachfrage mit der Verfügbarkeit von der Energie im Stromnetz zum Beispiel in Verbindung bringt. Und da glaube ich, kann man viel
machen. Und da geht es auch wieder darum, was ich vorher gemeint habe, wir entscheiden jetzt, wie es gemacht wird. Und wenn wir das hier smart machen, spricht die Lastenausgleichung nicht nur bei dem einen Punkt, sondern insgesamt mit dem
zu machen.
liegt da auch ein cooles Potential drin. Bin ich gespannt, was da passiert. Ich weiß, es gibt einige Leute, beschäftigen sich damit in Wien, in Tirol. Ja, das Unternehmen selbst, Betriebssouveränität, in manchen Fällen ja, aber ist, glaube ich, ein bisschen utopisch. Was ich da immer denke, und das hat man vor kurzem einmal erzählt, na ja, im Krankenhaus zum Beispiel, wir wissen, arbeiten lang, sind Personal immer an der Grenze.
Das wäre ja eine Berufsgruppe, die man super entlasten könnte
von administrativen Tätigkeiten. natürlich auch extrem sensibler Kontext. Kann ich mit den Daten nicht irgendwo hingehen. Für die braucht es Alternative. Und es ist auch klar, dass die Tirol Kliniken nicht was
irgendwo
Atlanta oder wo die
Rechenzentren in den USA stehen, schicken kann. Und auch nicht nach Frankfurt wahrscheinlich, wo viele in Europa stehen, sondern dass die hier was brauchen. Und da muss man Lösungen finden.
Genau. schön ist, dass sagst, es gibt Leute, die denken bereits darüber nach und hoffentlich finden die das auch zusammen. Wenn wir jetzt
noch einmal auf die Betriebsebene gehen. Was kann denn ein KMU selber tun? bei Souveränität, geht es ja auch viel darum, ich sage, was kann ich selbst, versuchen, selber zu lösen. Wenn jetzt der österreichische KMU heute mehrere, du hast es schon angesprochen, internationale KI und Cloud-Dienste benutzt, ein bisschen hier, ein bisschen dort, so ein bisschen wie vom Buffet. Was kann es denn tun oder soll es überhaupt seine ganze
Infrastruktur umorganisieren und wie würden wir denn da vorgehen sinnvollerweise.
Zuerst ist es schon mal super, wenn man die ganzen Dienste nutzt und sich bewusst macht, wo ist der Potential, wo kann man was bringen, wo bringt man vielleicht weniger, dann ist man schon mal auf dem richtigen Weg. ich finde ja die US-Dienste usw. super, die haben ganz viel Innovation zu uns gebracht. Man soll sie auch nicht komplett ausschließen, es soll jetzt auch kein Kampf werden. Was kann ein Unternehmen tun? Ich glaube, wenn man es wirklich konkret machen will,
Was ganz was Gescheites, was ich schon ein, zwei Mal gesehen habe, ist, dass ich versuche, Modular aufzubauen,
diesen Organisations- und auch den Software-Framework so aufzubauen, dass ich da schnell Dinge verändern kann. Hier gibt es zum Beispiel Light LLM oder auch andere, wo ich einfach sagen kann, jetzt wechsel ich schnell das Modell ab, ein API und ich muss deswegen nicht wieder...
an
möglichen Stellen schauen, da passt das wieder nicht zusammen. Also, dass ich Modularität in meiner KI-IT-Landschaft schaffe, rund die Daten, rund die Modelle, wo die Inferenz läuft, das ist,
etwas Konkretes, wo man sich Gedanken machen sollte. Und da geht recht viel. Entweder je nachdem, ob die eigenen Ressourcen reichen, selbst aufsetzen. Oft macht es Sinn mit einem Partner.
das gemeinsam zu machen. Ich merke einfach, viele Unternehmen
im Daily-Business einfach
dann muss man sich halt jemanden
Wichtig ist es halt, dass man jemanden dazuholt, der halt die gleiche Sichtweise und die gleiche Zielsetzung hat.
Da gibt es ja, glaube ich, bei der AI Factory als Beispiel, wir können auch gern, wenn du welche weißt, andere nennen, die Möglichkeit sich da mal vorstellig zu machen einen Termin zu vereinbaren und das Projekt zu besprechen ihr hättet dann womöglich Partner, die empfehlen können.
Genau,
also was wir jetzt da konkret machen, die AI Factory sitzt zwar beim Projekt auch an der Uni Innsbruck oder in Wien ist das große Hub, die sind sowieso super und wir können einfach mal uns mit Leuten unterhalten, bisschen was implementieren, einmal zeigen, wie kann man es machen.
Ansonsten vernetzen wir natürlich auch im Ökosystem auch hey, da gibt es jemanden,
Der setzt das auf, production ready in drei Wochen oder du bist erst in der Orientierungsphase oder du willst erste Tests machen, das können auch wir selbst aktiv unterstützen.
niederschwellig, dadurch dass wir von der EU und von Österreich finanziert werden, muss man
für ein gewisses Kontingent auch nichts zahlen. Da beschäftigen wir uns, wenn das gute Idee ist, wenn es spannend ist, auch
wirklich unkompliziert und gibt schon ein paar in der Region von regionalen Initiativen, wir jetzt dran sind und die fragen auch immer, hey, ich will das in Tirol laufen haben. es geht manchmal, aber es wäre halt besser, es noch einfacher zu machen und hoffentlich entstehen aus diesen paar Visionären dann auch wirklich erfolgreiche Projekte in den nächsten Jahren.
drückt man fest die Daumen. Also wir haben ja mal auch gesprochen im Vorgespräch, gesagt, so mögliche Schritte sind, du hast jetzt exakt modular aufgebaut und noch mal sagen, welche KI-Werkzeuge nutze ich, die Datenflüsse, von denen du schon gesprochen hast, ich breche es gerade noch mal ein bisschen so herunter, die Abhängigkeiten sich überlegen. Vielleicht auch ganz zu Beginn, wahrscheinlich ist es für dich ganz logisch, diese kritischen und weniger kritischen Anwendungen unterscheiden und dann eben, wenn man das für sich
ein überlegt hat, man ja diesen Gangwagen hier zu Professionisten oder zu euch und sagt, das sind unsere Prozesse, so schaut es derzeit aus, das nutzen
Und dann eben diesen österreichischen oder Tiroler oder europäische Alternative suchen oder einen Partner
Würdest du sagen,
Was braucht es denn alles, dass man zum Beispiel so einen Test dann durchführen könnte?
Auf jeden Fall lasst Sie das testen und hier kommen wir zu einem interessanten
ist ja schon richtig viel da, viele Prozesse, viele ID, Software, Produkte, Landschaften und wie komme ich da so schnell wie möglich zu
neuen Produkt, der neuen Lösung, die man das jetzt mit KI besser macht und das ist glaube ich auch etwas, wo viele jetzt gerade viel daran arbeiten.
Ich glaube, und das ist jetzt auch aus der Innovationsseite, macht sehr viel Sinn, das einmal wegzunehmen von dem, was existiert und einmal von Grund auf neu aufzubauen. Das ist vielleicht nicht leicht und da braucht es vielleicht auch vom Management und so weiter die nötigen
Aber das ist, ich, das, wo man schnell auch herausfindet, hey, das ist, was das kann uns was bringen und dann bauen wir das Szenario auf.
nehme ich ein paar KPIs her. Der Geschäftsführer mag sicher auch gerne die KPIs. Und wenn ich da irgendwie sagen kann, da ist das Potenzial von 25 Prozent Einsparung, dann wird da vielleicht auch wieder mehr Budget locker gemacht
Genau, also ich denke, es macht sehr viel Sinn, das wegzunehmen von den aktuellen Prozessen, weil dann sieht man auch direkt, dass vielleicht viele der Prozesse, die es vielleicht gegeben hat, jetzt gar nicht mehr notwendig sind.
Das ist natürlich das typische Innovationsdilemma, das man oft hat. Aber dahin muss man gehen, glaube ich.
Super. Vielen, Dank. Vielleicht abschließend eine Frage. Was glaubst du oder was ist deine Vision, wo du sagst für Österreich, du hast jetzt öfter auch Wien angesprochen,
Oder Tirol.
Da hast ja gesagt, es gibt Akteure, die denken darüber nach, was zu machen. Siehst du
Initiativen, ohne dass du sie jetzt vielleicht schon nennen magst oder kannst, aber wo es da in so eine Richtung geht oder sind wir da noch relativ weit weg?
Ich glaube, es gibt viele, die in die Richtung denken. Man wird einfach sehen, und das das Schwierige, es ist am Anfang ein bisschen kapitalintensiv. in Deutschland macht es halt der Dieter Schwarz und vielleicht noch ein paar andere. So viel Kapital hat nicht jeder. Das ist schon klar, aber ich denke, vielleicht braucht es in manchen Fällen nicht so viel wie jetzt dort. Man muss auf jeden Fall Optimist sein und man muss versuchen, die Zukunft zu gestalten. Es liegt jetzt ein bisschen abgedroschen, aber es geht halt darum,
gehen eigentlich ein neues Industriezeitalter hinein, wo vieles an Infrastruktur an der KI hängen wird. Nicht alles, aber einiges. Und es wird uns auch im besten Fall unser Leben erleichtern. Und viele Tätigkeiten, die eigentlich wenig Wert für uns schaffen und uns auch keinen Spaß machen, die brauchen wir einfach nicht mehr machen. Es geht darum, das Thema ein bisschen positiver zu sehen und mehr Chancen zu sehen, wie wir damit was besser machen können.
Ich glaube, viele Chancen.
Es geht einfach darum, ins Tun zu kommen.
Genau. Und du hast ja schon gesagt, es gibt lokale Fachleute, gibt Forschungseinrichtungen. Okay, das Rechenzentrum vielleicht ist noch nicht lokal, aber diese KI-Kompetenz, aufzubauen, die Überlegungen zu machen zur Souveränität, wie wir sie heute beschrieben
technologisch und datenschritten, sind halt Schritte, damit man überhaupt souverän werden kann. Vielen, vielen Dank. Das heißt, wenn ich dich jetzt
Richtig verstehe, David gegen Goliath, ohne dass es gegen, jetzt heißt das, dass gegen die Modelle sind, aber wir haben noch eine Chance. Ärmel hochkrempeln. Genau. Was ist die nächste Initiative? Ich kann draufschauen bei der AI Factory, da gibt es immer wieder so...
Ja, es gibt auch für jeden, der sich thematisch weiterbilden will viele Trainings, sind auch oft online, also egal wo. Wir machen aber auch fokussierte Workshops in Innsbruck und Umgebung Es gibt auch fokussierte Workshops in Wien. Da passiert viel und ansonsten einfach melden.
perfekt. An den Schulungen habe ich auch schon teilgenommen, die sind super, wirklich cool. Vielen, Dank Julian. Dann wünsche ich mir das Beste für den Standort Tirol und für Initiativen und Menschen mit viel Geld, Rechenzentren bauen.
Ja, das wird schon.
Genau, danke dir.