Von Multi-Agenten bis Open-Weight-Modellen: KI-Souveränität in der Praxis – mit Dr. Tristan Behrens
Shownotes
Das erfährst du in dieser Folge:
- Von Multi-Agenten zu LLMs: Wie Tristan bereits 2012 an Multi-Agenten-Systemen promoviert hat und warum der Wandel von starren Regeln zu statistischen Sprachmodellen die KI-Entwicklung revolutioniert hat.
- Sovereign AI in der Praxis: Warum Datenschutz, Patentrecht und DSGVO-Konformität immer mehr Unternehmen dazu bewegen, KI-Modelle on-site oder auf europäischen Servern zu hosten.
- Hardware & Quantisierung: Wie Modelle mit 27 Milliarden Parametern auf einer einzigen lokalen Grafikkarte flüssig laufen und was man unter Tokens pro Sekunde versteht.
- Agentische Workflows & Harnesses: Der Unterschied zwischen reinen Chat-Interfaces und Systemen (wie Hermes oder Claude Code), die autonom Ordner durchsuchen, E-Mails filtern und Code schreiben.
- Roadmap für den Mittelstand: Welche ersten Schritte Unternehmen gehen sollten – von ersten Prompting-Gehversuchen bis hin zum Betrieb eigener, datenschutzkonformer KI-Infrastrukturen.
- Blick in die Zukunfts-Modalitäten: Warum Text und Programmierung erst der Anfang waren und was uns bei Video- und Filmgenerierung sowie in der Robotik erwartet.
Du hast Fragen oder Anregungen zum Podcast? Dann kontaktiere uns gerne via Instagram.
Links zur Folge:
Dr. Tristan Behrens auf LinkedIn
Christoph Burseg auf LinkedIn
Dieser Podcast wird produziert von Podstars by OMR
Transkript anzeigen
00:00:00: Es gibt aber was, das kommt jetzt hoch und zwar dass auch Teile von Hollywood die Filmgenerierung langsam so ein bisschen in den Arm nehmen im Sinne von okay.
00:00:08: Das ist etwas, das müssen wir mal genauer angucken.
00:00:10: Also ich rechne fest damit mit den Möglichkeiten, die wir jetzt haben.
00:00:13: also merke ich gehe so ein bißchen durch die modalitäten durch.
00:00:15: Also Text können wir abhaken mit den LLMs da ist ja sehr viel passiert inklusiv programmieren.
00:00:20: Musik wurde einfach so ne beigemacht Was jetzt wahrscheinlich demnächst möglich ist mit einer sehr hohen Qualität einfach so hundertzwanzig Minuten film generieren.
00:00:37: Herzlich willkommen bei Digitale Vorreiterinnen, dein Podcast zur Digitalisierung und AI von Vodafone Business.
00:00:43: Wir haben heute unsere Insight Talk Folge und ich habe mir einen persönlichen Wunsch erfüllt.
00:00:49: Ich hab mir jemanden eingeladen der mir auf LinkedIn immer wieder über den Weg läuft wenn es um die Themen angewandte AI geht.
00:00:57: also der Dr.
00:00:59: Tristan Behrens ist selbstständig und er berät und experimentiert und findet raus und pioniert Alles was zum Beispiel Unternehmen wissen müssen, die ihre Prozesse agentisch gestalten wollen.
00:01:13: Die sovereign AI machen möchten also selbst Ohnen möchten wo sie ihre Daten haben vielleicht sogar selber On-Site in ihrem Datencenter AI betreiben möchten.
00:01:22: Also was und noch vieles mehr.
00:01:24: Und da sind immer wieder so spannende takes.
00:01:26: Ich lese dann seinen Beitrag und dann weiß ich immer heute Abend werde ich drei Stunden das ausprobieren Das Modell runterladen Newcase ausprobiert.
00:01:35: Ja also Tristan Du kennst mich noch nicht so gut wie ich dich kenne.
00:01:38: Ich hab schon eine Parasoziale Beziehungstil aufgebaut, aber ich freu' mich dass du hier bist und das ich mal endlich alle meine AI-Fragen an dich stellen kann.
00:01:46: Herzlich willkommen!
00:01:47: Dankeschön!
00:01:47: Danke für die Einladung Christoph.
00:01:48: Freue mich sehr, hier zu sein.
00:01:50: Ich glaube auf LinkedIn bist du bei... Oh weißt du?
00:01:52: Wie viel Verlor hast du da?
00:01:55: Ja, das weiß ich.
00:01:56: Habe ich letztes Nachbuch und Post gemacht.
00:01:57: Ich bin weit über den Vierzigtausend.
00:02:01: Das ist ziemlich gut und das hat sich wahrscheinlich beschleunigt in den letzten zwei, drei Jahren oder?
00:02:07: Oder warst du immer schon relativ aktiv.
00:02:09: Das waren der Entscheidungen im Jahre twohntosundsebzehn.
00:02:11: da habe ich noch fürs Porsche Digital Labor gearbeitet.
00:02:13: Da war unsere Aufgabe auch ja zu Themen in der Hochtechnologie rauf schaffen und dann unseren Kollegen vermitteln.
00:02:19: das haben wir eine Zeit lang sehr intensiv im Internet gemacht Und dann ist uns aufgefallen dass im wesentlichen alle Leute die im Internet das gefeiert haben Auch im internet unterwegs sind also zum Beispiel über LinkedIn.
00:02:30: Dann haben wir uns das mal kurz angesehen, dann haben wir gesagt okay den Tristan, dem erlauben wir das mal.
00:02:35: Der postet ab jetzt auf LinkedIn und dann ist die Kurve steil bergauf gegangen.
00:02:40: Toll!
00:02:40: Was bist du von Haus her?
00:02:42: Bist Du irgendwie Informatiker, Mathematiker,
00:02:45: Künstler?
00:02:45: Ja bin Informatika also ja künstler auch wahrscheinlich.
00:02:49: Das war meine Entscheidung welches meiner tollen abgefahrenen Hobbys ich dann Opfer zu einem Beruf mache und es ist dann das Programmieren geworden.
00:02:56: Es hieß, wenn man als Programmierer Geld verdienen möchte in Deutschland.
00:03:01: Das war so um zwei Tausend rum, dass ich dann die vor der Wahl stand.
00:03:04: Sollte man doch ein Diplom in irgendwas machen was mit Informatik zu tun hat?
00:03:08: Ich habe Informatika studiert an der TU Klausstahl.
00:03:11: das war ganz toll, Vierneinhalb Jahre und bin mit dem Diplomen rausgegangen.
00:03:15: und kurz bevor ich abbegen konnte in die Industrie hat mich mein späterer Doktorvater gefragt ob ich nicht auch promovieren möchte.
00:03:22: und da hab ich gefragt ja Promotion ist gar nicht so schlecht.
00:03:26: Ist bei mir eine Familie relativ selten, aber man kann es mal ausprobieren.
00:03:28: was wären so das Thema?
00:03:29: und hatte gesagt ja künstliche Intelligenz.
00:03:32: Manche weiß wozu das gut ist.
00:03:35: Hab dann eingeschlagen hab dann auch irgendwie ein Monat nach meiner letzten Prüfung angefangen am Institut für Informatik zu arbeiten und war dann da bis zum Jahre von zwei tausend neun bis zweitausend zwölf habe ich dann promoviert habe meine Dissertation verteidigt, da ging es auch so um Multi-Agentensysteme und Tools.
00:03:54: Und bin dann in die Industrie gegangen.
00:03:56: Multi-Agentensystemen im Jahr zwei Tausend Zwölf?
00:03:58: Also heute weiß ich irgendwie einen Agent übernimmt Aufgaben, kann die für mich lösen, kann dafür Tools verwenden, die ich zum Beispiel auf meinem Computer installiert habe.
00:04:06: Aber was war denn... ...Zwei Tausends zwölf würde ich eher an Makros und Automatisierung denken, oder konnte man da schon mehr?
00:04:13: Nicht mal.
00:04:14: Nein!
00:04:15: Das ist kein Vergleich zu dem was wir heute machen.
00:04:18: Also heute ist es ja in der maximalen Breite.
00:04:19: Da kann jeder mit umgehen.
00:04:21: Maximale Konnektivität zu diesem ganzen Legacy-System.
00:04:24: Du kannst ja dann Excel mit deinen Agenten steuern.
00:04:27: Und das war damals noch Grundlagenforschung.
00:04:29: Ich glaube Multiagentensysteme, dass so als Thema ein bisschen akut geworden ist, war so eigentlich erfunden in den Achtzigern.
00:04:35: Dann fahrt aufgenommen in den Neunziger.
00:04:37: in den Zweitausenden hat es richtig geblüht war halt die Idee, dass verschiedene Entitäten miteinander kooperieren und dann zusammen oder für den Menschen Probleme lösen.
00:04:45: Damals war das noch logikbasiert und es war fast eine Wette von der künstlichen Intelligenz, dass man alles mit irgendwelchen Regelsystemen macht also mit logischen Programmiersprachen was Fakten sind.
00:04:57: wie kann man draus ableiten?
00:04:58: Und dann hat man damit versucht wirklich intelligente Systeme zu bauen.
00:05:04: Jetzt im Vergleich zu heute ist es was ganz anderes gewesen, das hat nämlich einen tierischen Flaschenhals gehabt.
00:05:08: Man muss diese Regeln alle selbst aufschreiben und das macht ja ein LLM gar nicht.
00:05:13: Das trainiert auf alles und sucht sich dann den besten Weg aus.
00:05:16: Das ist eigentlich ganz witzig weil dieser Ansatz der wäre wahrscheinlich der Fehlerfreiere gewesen und wahrscheinlich hatte man auch irgendwie zum Ziel dass man etwas baut, auf das man sich sehr stark verlassen kann.
00:05:26: Und heute hast du dir selbst gesagt, dass LLm sucht dich irgendwelchen Weg.
00:05:33: Aber die Grundlage von LLMs Texte, Wörter und Sprache ist hochgradig subjektiv.
00:05:39: Und gibt keinen der ernsthaft damit rechnet, dass man LLMs wirklich hundert Prozent Zufallessigkeit hinbekommt?
00:05:47: Ja!
00:05:49: Man träumt immer davon, dass die Zufälligkeit maximiert.
00:05:52: Also bei diesem regelbasierten System ist es gut ja... Da werden halt die Regeln eingehalten.
00:05:57: Man kann sehen welche Regeln da gewählt wurden.
00:05:59: Problem dabei ist, es funktioniert ausgezeichnet für ganz kleine Anwendungsfälle.
00:06:03: Aber nicht für das was wir heute machen oder damals auch schon damit machen wollten.
00:06:07: Je mehr Regeln man reinpackt desto schwieriger wird zum Schluss zu machen und dann gibt's Inkonsistenzen und dann greift das einfach nicht mehr.
00:06:13: Bei LLMs sind sie oft so viel trainiert die finden den Ausweg dann noch also diesen sehr flexi-gönig-diabolistischen Suchen dann doch irgendwie etwas Und da kann man halt nicht beweisen, das ist diese Erklärbarkeit.
00:06:25: Dass die sehr gut sind, deshalb zieht man so Benchmarks ran.
00:06:27: Das heißt mal, lässt sie tausendmal laufen und guckt wie oft die von diesen tausenden Malen ein Problem lösen?
00:06:32: Wenn ein Problem nur einmal fünftausend Mal gelöst wird weiß man, dass LLM funktioniert nicht.
00:06:37: wenn man aber so bei neunhundert Mal rauskommt oder neunundfünfzigmal und neunnundneunzigmal dann weiß man okay statistisch gesehen ist es halt ziemlich gut.
00:06:47: Und das, ähm ... das ist halt eine kleine Schwierigkeit für Für sehr viele Leute, also auch in Deutschland, weil unsere schulische Ausbildung das gar nicht vorgesehen hat.
00:06:57: Dass man jetzt statistisch sagt es ist fast immer richtig.
00:07:00: meistens machte dass was so soll und ganz selten passierten.
00:07:03: Fehler hatten wir nie.
00:07:04: Eine Schule hieß es ja immer zwei plus zwei ist vier.
00:07:07: wenn man gesagt er zwei-plus-zwei ist drei Komma neun dann war das immer falsch.
00:07:11: in der Statistik ist zwei Komma bei zwei Plus Zwei gleich drei Kommanneun Relativ nah an der Wahrheit dran, hatten relativ kleinen Fehler.
00:07:18: Und wenn der Fehler so klein ist als das System hat funktioniert dann nimmt man den halt in Kauf.
00:07:22: Ich glaube im deutschen Schulsystem wird auch eigentlich relativ schlecht unterrichtet mit Zahlen und Statistiken usw.
00:07:29: umzugehen.
00:07:29: Wenn man eine Statistik sagt, dann ist die erste Antwort vom Gegenüber.
00:07:33: Ja ich kenne aber eine Ausnahme.
00:07:36: Genau.
00:07:36: Logisch.
00:07:37: Selbst wenn man sagt ja, wenn man gesagt eben allgemein ist er so-und-so bei mir war es anders.
00:07:42: Dann denke ich immer so ja dass auf jeden Fall... Eine Sache, die man vielleicht hoffentlich irgendwann besser ausgebildet wird in der Bereite.
00:07:50: Das deutsche Schuhsystem ist glaube ich ein paar weitere Podcasts wert.
00:07:53: also da kann man sehr viel erzählen ja?
00:07:55: Was sind zwei drei Aufgaben extra poliert als Beispiel, die du gerade für Kunden löst oder gelöst hast und Rechnung dafür stellen kannst damit wir verstehen womit du dein Geld verdienst.
00:08:07: denn trotz vierzig tausend LinkedIn habe ich noch nie gesehen, dass du gesagt hast Anzeige-Doppelpunkt.
00:08:14: Ich empfehle euch kauft Bitcoin also so richtig gewerblich.
00:08:19: bist du auf LinkedIn nicht unterwegs?
00:08:20: Nee, ich bin Freiberuf.
00:08:21: Also klassischer Berater, ich verkaufe keine Produkte sondern meinen Rat und der wird momentan auch verschiedensten Ebenen abgerufen.
00:08:30: erst mal überhaupt Einstiege in die aktuellen Agenten, also die Harnices mit den LLMs die da drin sind wie man damit Probleme lösen kann vor allen Dingen Also nicht Programmiergeschichten, sondern Wissensverarbeitung.
00:08:41: Wenn man halt sehr viel Wissen intern hat wie man dann dafür sorgen kann dass man das mit LLMs und den Agenten dahinter wunderbar schürfen kann.
00:08:50: Und die eine Seite also Agenten in die Anwendungen bringen beim Kunden in verschiedensten Domänen und das andere ist da darf ich ein bisschen mehr darüber erzählen was kein NDA gibt.
00:08:59: Dafür zu sorgen dass diese Modelle auch in Deutschland Souverän gehostet werden.
00:09:04: Also typisches Beispiel hat man Rechenzentrum, da stellt man ein paar GPUs hin.
00:09:08: Da muss man darauf dann in der LM betreiben damit die Leute das benutzen können.
00:09:12: Das muss mal ein bisschen von den Parametern her feintunen dass es auch schnell genug ist und gut parallelisiert.
00:09:18: Da treibe ich mich gerade um den Thema.
00:09:20: Und typische Unternehmen die bei dir Kunde sind haben die eher so fünfzig Mitarbeiter oder tausend Mitarbeiter?
00:09:26: Also eher so große.
00:09:30: Was Industrieautomatisierung ist großer Kunde Und jenseits davon auch.
00:09:34: Also Start-ups kommen durchaus vor, aber dann nur punktuell.
00:09:38: eher selten sind schon größere Firmen.
00:09:40: Jetzt sind eben noch mal ein paar Begriffe gefallen.
00:09:42: Harnesses ist gefallen und am Harness stelle ich mir vor so was vor wie zum Beispiel Claude, Cowork oder Chat GPT Open AI Codex oder sowas.
00:09:54: Das ist ein Harnessis?
00:09:56: Genau genau das ist das Zaubenzeug also das was da auch einen Pferd hast, also ein Pferdanlegst damit du es pferd steuern kannst.
00:10:02: Da ist eigentlich die grundlegende Idee, dass so ein LLM rein reaktiv ist.
00:10:06: Das muss man halt immer mit dem Prompt füttern und einen LLm selbst kann ja nicht mal auf der Festplatte arbeiten geht nicht.
00:10:12: das einzige was es LLmm macht ist das nächste Wort, das nächste Druckenvorhersagen und dann so viele wie möglich Und wenn man das mit der Vorhersage so bisschen formatiert Tooluse ist so eine Sache Dann kann das LLml plötzlich auf die Festplatten zugreifen.
00:10:25: Wenn das Llm hat sagt ich möchte den Datei öffnen da kümmert sich der Harnes drum, dass diese Datei dann geöffnet wird.
00:10:31: Da sind dann auch aber diverse andere Tools drin, dass man mit WhatsApp den Agenten verbindet oder mit dem E-Mail Client, mit Gira.
00:10:40: Mit allem was irgendwie die legacy Systeme gerade so hergeben.
00:10:43: Wenn dich jetzt jemand fragt Herr Tristan, was nehmen Sie?
00:10:47: Dann nehmen sie Cloud Code oder nehmen Sie Chatchi Pity?
00:10:50: Was ist denn deine Antwort?
00:10:52: Es sind zwei hauptsächlich Cloud Code, aber auch nur für die Entwicklung weil... Diese, also Cloud Code zusammen mit Cursor und noch ein paar anderen.
00:11:02: Das sind sehr gute Systeme für die Software-Entwicklung.
00:11:05: Da liegt meine Handführungsfeuer, die können wunderbare Sachen machen.
00:11:08: Die haben auch alleine eine große Reichweite.
00:11:11: Hab gestern einen Agenten gesehen der hat zwei Stunden lang gearbeitet und ich hab dabei einfach nur Nikon daneben gesessen, obwohl ich habe noch andere Sachen gemacht.
00:11:17: Und wenn es um den lokalen Betrieb geht Also das Bild ist Ich hab ne GPU bei mir stehen und da läuft ein LLM drauf
00:11:28: Ein Grafikprozessor, die sich besonders gut eignen zum Verarbeiten dieser Modellgewichte.
00:11:33: Genau!
00:11:33: Die GPUs machen hochgradig parallele Mathematik und das braucht man halt für die statistischen Systeme, die LLMs.
00:11:40: Und da gehe ich hauptsächlich ins Rennen mit Hermes – also der Götterboot ist auch ein Open Source-Projekt, das kann man so konfigurieren wie man es möchte.
00:11:48: Läuft bei mir auf einem zweiten Rechner, das nenne ich mal immer Anrechner und macht entweder Aufgaben aufs Aufzuruf.
00:11:54: Also ich gebe ein Thema vor, dann sage ich recherchiere mir das mal, schreibe mir das zusammen, gib mir mal einen Artikel den ich dann lesen kann oder such hier noch einmal, schreib das nochmal um, pack das mal in meine Wissensdatenbank oder dass der auch mal von sich selbst aus recherchiert.
00:12:08: Wenn zum Beispiel ein neues Modell angekündigt ist, dann sag ich okay ab jetzt jeden Morgen vier Uhr guckst du mal ins Internet rein.
00:12:14: Gibt es vielleicht bei den üblichen Verdächtigen wie Hugging Face und irgendeine Ankündigung, dass dieses Modell jetzt da ist oder nicht?
00:12:19: Und grüße ich dann morgens meine Nachricht.
00:12:21: Ich kann da reingucken und freue mich dann wenn der Agent dann schließt sich doch was findet nach ein paar Wochen.
00:12:25: Hermes, ich glaube der Hersteller oder die heißen Nu- oder Nuus in OUS.
00:12:33: Warum zwei Systeme?
00:12:35: Warum nicht alles in Cloud?
00:12:36: Du kannst auch Cloud Aussagen erinnern mich morgen um vier und prüf mal bei Hugging face ob du so Ergebnisse zu einem gewissen Modellenamt findest.
00:12:42: Es würde wahrscheinlich funktionieren.
00:12:44: Ich fand nur, dass das Claude... Das ist nicht in erster Linie dafür gemacht, dass man das stark custom heißt.
00:12:51: Also, dass wir da eigene Funktionen und so reinbringen vor allen Dingen ein anderes LLM.
00:12:56: Es geht natürlich, das haben die auch irgendwann mal freigeschaltet aber das Hermes hatte einfach einen komplett anderen Ansatz.
00:13:02: Natürlich!
00:13:03: Man kann alles machen.
00:13:04: es hat sich aber in der Anwendung, in der Benutzung viel komfortabler angefühlt.
00:13:08: Das Einrichten ging halt für was ich machen wollte schlanker von der Hand Und das ist so eine nördige Detailfrage.
00:13:16: Wenn mein Agent jetzt auf einem Rechner läuft in meinem Netzwerk, dann läuft er halt nicht mit dem Monitor und ich sitze auch nicht an dem Computer mit der Maus zu einer Tastatur sondern da rede ich über andere Systeme mit.
00:13:27: Da fand ich den Ansatz von Hermes viel besser.
00:13:30: Da gibt es die sogenannte Dashboard, dass man sich mit verschiedensten Applikationen aus selbstgebauten Applikations verbinden kann über das man sich dann mit diesem Agenten unterhalten kann, also maximale Customizability.
00:13:42: Hermes kam irgendwie zwei Monate nach dem großen Openclaw-Hype im Februar raus.
00:13:50: Ich hatte Openclaws probiert, fiel mir dann nach zwei Wochen nicht mehr viel ein was ich damit machen kann.
00:13:56: Dann habe ich Hermes installiert und jetzt läuft Hermes bei mir auch dauerhaft.
00:13:59: Also hab so kleine macht es mal jeden Tag, guckt mal ob abends das Licht aus ist drehen wir die Heizung abends runter Gibt mir eine Nachricht am Bildschirm, wenn's an der Haustür klingelt.
00:14:10: Also ein Kram hab ich jetzt irgendwie Hermes beigebracht.
00:14:15: OpenClaw benutzt du das noch?
00:14:17: Ich habe es zweimal benutzt.
00:14:19: Einmal war es nur Proof of Concept und ich habe mich ein bisschen geärgert dass das plötzlich alle Mac Bros und Mac Studios dafür gekauft haben weil sie es ja braucht man unbedingt.
00:14:29: Und dann habe ich so zwischen den Zeilen gelesen die brauchen das ja... Nicht fürs LLM, weil da benutzen sie immer noch Claude im Hintergrund.
00:14:35: Und dann meine ich ja dafür ist doch für ein Hermes, nee oh nein, für einen Openclaw, Cloudbot und Moldbot.
00:14:41: Dafür ist ja so ein Mac Studio eigentlich viel zu groß, viel zu viel Leistung.
00:14:45: Dann habe ich Proof of Concept gemacht, hab einen Raspberry Pi gefunden mit acht Gigabyte RAM, hab den darauf mal laufen lassen und hab gesehen, ja geht im Wesentlichen!
00:14:53: gab es eine große Pause und dann hatte ich mal einen Beratungsauftrag, da ging es darum ein AMD System.
00:14:59: Also ein System mit einer AMD Grafikkarte zu testen und mit dem Cloudboard um einfach mal zu schauen was man damit machen kann.
00:15:07: Dann habe ich das mal aufgesetzt, hab gesehen funktioniert.
00:15:09: im Wesentlichen ist ein bisschen anders aber eher gleich hat mich nicht zum Konvertieren bewegt.
00:15:14: Ich bin nach wie vor meinem Hermes Troll geblieben
00:15:16: und
00:15:17: ich glaube ich werde noch ein paar weitere Monate auf der Hermes Seite bleiben.
00:15:21: Die Geschwindigkeit, mit der man seine Toollandschaft umgräbt und austauscht ist aber schon erschreckend finde ich.
00:15:30: Na klar!
00:15:31: Ich brauche keine Frontends mehr.
00:15:33: Das... ich baue mir jetzt alles was sich an Software haben möchte selbst.
00:15:36: Ein Anwendungsfall für mich persönlich in meiner eigenen Wissensverarbeitung.
00:15:40: Man muss ja ein Bücher lesen das ist ja ein Learnable Skill der es auch sehr aufwändig.
00:15:45: wir sind aber deshalb sind wir auch im Gespräch.
00:15:47: Wir sind der gesprächsorientierte Kreaturen.
00:15:50: Dieses Talk to PDF oder Talk to Book ist ja sozusagen so ein Hallo Welt, das hat man ja gerne.
00:15:55: Und ich wollte es halt gerne auf einem Samsung-Templett haben mit einem eigenen Design – Ich kann damit wirklich reden und muss nichts tippen!
00:16:03: Das habe ich dann auch mit Cloud Code bauen lassen, also mit Cloud code gebaut.
00:16:07: Habe ich jetzt eine eigene Software dafür?
00:16:09: Wie macht genau das was ich will?
00:16:10: Immer wenn ich ein Feature haben möchte, programmiere ich das dann mit Cloud Codes rein.
00:16:14: Ich hab noch ne andere Applikation.
00:16:16: die macht dann dieses LLM Wiki Also auch eine dedizierte Applikation, da kann ich dann drin rumtippen.
00:16:21: Weil ab und zu muss man halt tippen wenn du so in vielen Dokumenten unterwegs bist.
00:16:25: Kann dann auch mit der KI-Chat nur im Player für Audio Bücher.
00:16:31: Da hat mir ja der etablierte Player nicht so gepasst.
00:16:33: Ich hätte gerne ein oder zwei Features anders gehabt und vor allen Dingen ein anderes Design.
00:16:37: Habe ich auch nur gesagt, wir testen das mal zusammen und dann ist es gut!
00:16:41: Also man hat, wenn man sich ein bisschen damit auskennt auch eine sehr hohe Schlagzahl.
00:16:45: Dass man gar nicht mehr darauf warten muss, dass ein Dritter jetzt die Software baut, die man unbedingt haben möchte und dann macht man halt selbst zu Hause innerhalb von einem halben Tag.
00:16:53: Bei dir lese ich immer wieder sovereign minds use sovereign AI oder so ähnlich?
00:16:59: Genau!
00:16:59: Warum
00:16:59: ist dir das so ein wichtiges Thema, dass du es in Gefühlen sechzig Prozent deiner Posts mit dazu schreibst?
00:17:05: Also was ich nach wie vor nicht verstehe ist... also ich versteh schon, ich weiß wo das herkommt Ich verstehe aber nicht, ob sich das noch länger hält.
00:17:13: Das ist diese Zentralisierung der Geisteskraft... ...der LLMs.
00:17:17: Am Anfang war das klar.
00:17:19: Da ist keiner in der Lage gewesen zum GPT-III bei sich zu Hause laufen lassen zu lassen.
00:17:23: Das hat dann OpenAI übernommen mit den Serverfarmen und hat sich darauf angemeldet.
00:17:27: Die haben ja auch ziemlich schnell gemerkt dass um die KI sicherzumachen stellt man die hinterne Paywall.
00:17:33: Dann haben sie ein Geschäftsmodell entdeckt was sich immer noch nicht so richtig rentiert.
00:17:37: für die sind alle quer finanziert.
00:17:39: Das war auch lange Zeit gut so, da hat man wirklich große Modelle gebraucht um kleine Anwendungsfälle zu lösen.
00:17:45: Aber das ist ja jetzt nicht mehr der Fall.
00:17:48: ich gebe ein Beispiel Ich arbeite gerade mit quendreih acht siebenzwanzig b model von alibaba.
00:17:53: gerade am freitag rausgekommen dass es in den benchmarks also in diesen vergleichswerten genauso gut wie das enthropic cloud sonnet.
00:18:02: vier sechs aus dem februar als das große modell was antropik im jahr diesem jahres hatte.
00:18:09: Da muss ich einfach kurz einhaken.
00:18:10: Du hast da eben so eine Zahl gesagt, Granddreibung, Achtreibung hat's die Version und dann siebenundzwanzig B.
00:18:14: Und siebenzwanzzig
00:18:15: B ist die Anzahl der aktiven Parameter.
00:18:17: also wie viele Filterchen und und und Parameter versuchen irgendwie die Antwort zu erstellen.
00:18:23: Siebenund zwanzig Milliarden?
00:18:25: Wie viel sind das bei dem Sonnet mit dem das ähnlich?
00:18:27: gute Leistungen?
00:18:28: wahrscheinlich in den Trillionen Wahrscheinlich trillionen.
00:18:31: Also ja Das war mal ne Zeit lang so.
00:18:34: das erste Modell was halbwegs gut funktioniert hat war von OpenAI, das GPT-Reinheit, drei Punkt fünf.
00:18:41: Das hatte hundertfünfundsechzig Milliarden und das war auch so dieser Moment wo die Leute dann immer weniger erzählt haben wie groß.
00:18:47: die Modelle sind.
00:18:48: also man geht in der Tat davon aus.
00:18:50: Trillionen Parameter bei diesen Frontiermodellen wahrscheinlich auch Mixed Shelf Experts da sind nicht alle aktiv aber es ist sehr, sehr groß.
00:18:57: Es ist eine Hardware... Also ich glaube dafür bräuchte man das Hundertfache der Hardware die mir gerade persönlich zur Verfügung steht.
00:19:04: Okay.
00:19:04: Und jetzt ist das rausgekommen letzte Woche und Benchmarks zeigen, wow!
00:19:08: Das ist ähnlich leistungsstark wie Dinge die vor dem Dreivierteljahr ja absolut frontierbar waren.
00:19:16: Genau.
00:19:16: Die kleinen Modelle – also siebenzwanzig B um es mal in der Größenordnung zu packen – sieben zwanzig b kann man zu Hause laufen lassen auf einer Grafikkarte mit vierundzwanziger Gigabyte dran.
00:19:26: Das ist ein wunderbarer Kandidat, die RTX-Dreißigneunzig Die ist aus dem Jahr ... ... zwanzig-einzwanzig, glaube ich.
00:19:33: So in diesem Dreh.
00:19:34: Damals hab' ich auch zwei davon gekauft – ganz, ganz toll!
00:19:37: Die werden momentan gehandelt.
00:19:38: Ja gut, die gab's mal für achthundert auf Ebay... ...die sind mittlerweile weit über tausend bei eBay….
00:19:42: …sind aber tolle Grafikkarten.
00:19:44: Da kann man das wenn man alleine unterwegs isst mit der entsprechenden Kontisierung also ein bisschen kleiner gerechnet.
00:19:49: beim bisschen Verlust kann man das auf dem System laufen lassen mit so, ich fünftig Tokens die Sekunde.
00:19:55: Weißen wir nicht genau?
00:19:56: Das ist ein Experiment was ich gerade mache aber da nimmt man nicht viel Geld für hart wenn ihr handt und dann hat man das schon.
00:20:01: Und das ist halt das phänomenale.
00:20:03: vor vier Monaten also ne anders im Februar war das eine Leistung.
00:20:08: die hat man nur hinter einer Paywall bekommen gehostet auf einer Server Farbe.
00:20:12: Genau vor sechs Jahren.
00:20:14: Also man sagt es auch eine grobe Schätzung dass die kleinen Open Source Modelle den Frontiermodellen so knapp vier Monate hinterher sind.
00:20:24: Und der Abstand ist immer so ungefähr vier Monate bei den Open Source, bei den großen Modellen im Gegensatz zu den Close Source-Modellen wird der Abstand immer kleiner.
00:20:33: Da sind die Chinesen ja bis auf wenige Wochen an ihre Mechaner
00:20:35: angerückt.".
00:20:36: Du hattest noch ein paar Begriffe genannt, die ich auch nochmal hinterfragen möchte.
00:20:39: Du hast gesagt mit dieser Grafikarte kann man das laufen lassen?
00:20:43: Wahrscheinlich brauche ich mehr als eine Grafikart.
00:20:44: Ich muss also einen.
00:20:46: Desktop Gehäuse haben, da muss sie die Grafikade rein.
00:20:47: Die braucht genügend Strom und ein bisschen Lüfter aber... ...that's it!
00:20:51: Also ich kann mir einen guten Computer kaufen und dann kann ich diese Grafikkarte kaufen, die zwischen tausendtausend hundert zweitausend Euro kostet.
00:20:58: Und dann habe ich den Setup bei dem ich lokal ein Modell laufen lassen kann das ähnlich schnell ist wie das Frontiermodell von Antropic aus Februar diesen Jahres oder Ende letzten Jahres und in einer Geschwindigkeit, du hast gesagt, fünfzig Token pro Sekunde.
00:21:13: Ich glaube, ich hab gerade gelesen.
00:21:15: Ich lese zwischen sieben und zehn Token pro Sekunde, kann ich lesen.
00:21:19: Wenn etwas mit fünfzig Token per Sekunde generiert ist also sehr schnell fertig.
00:21:23: Mit dem Lesen komme ich eh nicht hinterher.
00:21:25: aber natürlich denkt es auch nach und dann ist natürlich je schneller desto besser.
00:21:29: das Nachdenken würde ich noch zugucken.
00:21:31: Aber das sind so fünfzig token pro sekunde.
00:21:33: damit kann man recht gut wirklich arbeiten
00:21:37: Kann man?
00:21:38: Also, stimmt schon.
00:21:39: Lesegeschwindigkeit ist relativ gering und wir kommen dann nicht hinterher.
00:21:42: da kann man eigentlich nur querlesen oder sich sehr viel Zeit nehmen.
00:21:45: Ich sag für mich immer so wenn es so dreißig Token die Sekunde hat dann kann man das wunderbar benutzen.
00:21:49: Dann fühlt es sich auch im Chat nicht langsam an.
00:21:52: Wenn es drunter ist merkt man das ein bisschen.
00:21:54: Wenn's so fünfzig ist dann werde ich langsam richtig glücklich.
00:21:57: Und üblicherweise versuche ich dann rauszukommen bei so hundert Tokens diese Kunde Quellen auf einer größeren Hardware, also RTX Pro six tausend.
00:22:06: Das ist noch mal ein ganz anderes Kaliber.
00:22:07: das kauft man sich als Privatperson nicht Hat doch jetzt gerade wieder die Kosten.
00:22:12: haben wir gerade festgestellt irgendwie dreizehntausende Euro oder sowas pro Karte.
00:22:16: Ich habe ich fake news verbreitet mittlerweile fünfzehntausend.
00:22:21: Da gab es auf Geitsheits-IT grad nochmal einen Preissprung.
00:22:26: Die haben mal achttausend gekostet im letzten Jahr und die Grafikkarten schießen jetzt hoch.
00:22:31: gleicher hardware Nicht mal neu verpackt.
00:22:33: Ist genau dieselbe, nichts nachgerüstet ist die gleiche Karte großer Breisprung.
00:22:39: Die hat dann sechsten und sich.
00:22:40: gigabyte RAM hat auch eine entsprechend hohe Speicherbandbreite Und da kriegt dieses modell aus dem stand so hundert zehn Hundert elf tokens diese kunde hin Ist dann aber auch in der lage zu parallelisieren.
00:22:52: das heißt Da können auch mehrere leute gleichzeitig mit arbeiten.
00:22:57: Das habe ich auch erst relativ spät verstanden.
00:22:59: Du hattest eben noch eine Zahl, also damit dich parallelisieren möchte, die gleich noch erklärt bekommen aber quantisieren war auch noch so.
00:23:06: ein Modell kommt raus dann ist es unquantisiert und dann gibt's auf einmal FP acht oder Q vier oder drei.
00:23:13: und was heißt denn das alles?
00:23:16: Das ist so ein bisschen Kodierungstheorie.
00:23:17: also in der Informatik ist das allererste was man lernt dass man so alle Zahlen irgendwie so kodieren kann mit bits also nullen und eins.
00:23:27: Da gibt es irgendwie was, man ist mit acht-Bit oder mit sechzehn Bit unterwegs.
00:23:31: Wie viele Null und Einzelmann benutzt um unsere Zahlen, mit denen wir täglich umgehen, irgendwie zu kodieren?
00:23:37: Jetzt haben wir ja vorhin geredet über die trainierbaren Parameter von dem Modell.
00:23:40: Das ist halt eine riesige Tabelle mit Zahlen drin Und dann macht's halt einen Unterschied ob man die mit Sechzehnt Bit kodiert oder mit Achtbit das ist mal eben der halbe Speicher Oder mit vier Bits!
00:23:51: Das ist ein Viertel von dem Original.
00:23:54: Und das bedeutet, man macht die Zahlen ein bisschen ungenauer.
00:23:58: Es ist grob die gleiche Zahl mit einem kleinen Fehler.
00:24:01: Dafür funktioniert A, dass Netz halt überhaupt auf dem System weil man dann plötzlich weniger Speicher braucht.
00:24:06: und es ist manchmal auch sogar ein bisschen schneller, denn da kann man ein bisschen einfacher rechnen wenn man halt die Zahlen zusammenpackt.
00:24:14: Und man verliert ein bisschen Genauigkeit in der Leistung vom LLM.
00:24:19: Das können wir ja messen und einen gleichen Benchmark nochmal machen.
00:24:21: Da kommt man aber üblicherweise bei guten Quantisierungen so vier Bit baraus, dass man den Unterschied eigentlich gar nicht merkt.
00:24:27: Also wird halt kleiner, leicht ungenauer, aber so leicht und genau das man es einfach nicht mehr merkt,
00:24:32: d.h.,
00:24:32: man hat nur Vorteile.
00:24:33: Und dann habe ich immer gedacht jetzt hab' ich das laufen, jetzt kann ich drauf zugreifen und das ist irgendwie einigermaßen schnell.
00:24:38: Ich kann das nutzen!
00:24:39: Wenn ich jetzt aber sage wir sind aber bei uns in der Firma vier Leute die darauf zugreifeln, natürlich auch an einem Brau-Jahr viermal die gleiche Hardware... ...und dann hab' ihr aber verstanden was eigentlich passiert?
00:24:47: Und bitte korrigiere mich, ich schicke einen Prompt ab Dann wird ein Output-Token generiert, also die Antwort.
00:24:54: Und für jeden Token wird einmal das gesamte Modell durch den Speicher geschickt um zu vorherzusagen was wohl der nächste Silbe oder das nächste Token sein könnte.
00:25:04: und wenn ich aber mit vier Leuten dran sitze ist es gar nicht so dass sich viel mal so lange dauert sondern wenn's eh durch dem Speicher gescheckt wird kann man auch mehrere Vorhersagen gleichzeitig machen und so kann das sein dass ich teilweise fast keinen Geschwindigkeitsverlust habe obwohl ich mit mehreren Nutzern gleichzeitig zugreife.
00:25:20: Grob?
00:25:21: Die richtige Richtung.
00:25:22: Genau, das ist genau die richtige Richtung!
00:25:24: Das ist auch das Wunderbare wenn man sich die Zahlen anguckt.
00:25:28: also wenn du ein Prompt schreibst wie groß is der?
00:25:32: Ein Prompt passt da auf den CD, passt ja auf eine Diskette, passt aber irgendwas So ein Promt ist ein paar Bytes groß, dass ist nicht viel.
00:25:38: Da gehst du nicht mehr in Kilo Bytes und ne Antwort ist dann auch Bytes Nicht mal Kilo bytes, es ist ganz wenig.
00:25:44: Aber das was dann unter der Haube passiert Wie gesagt hast Du musst dir für jeden Prompt Für jedes Token einmal das ganze Netz durch den Speicher jagen, dann bewegst du für eine normale Vorhersage wahrscheinlich Terabytes an Daten.
00:25:57: Also diese Multiplikationen die darunter funktionieren sind immens viele.
00:26:01: Das ist so viel Mathe kann ein Mensch ins zu seinen Lebzeiten nicht machen wie da in der ersten Millisekunde passiert.
00:26:08: Und das ist halt auch genau der Punkt, ab da wird's halt eng.
00:26:11: Da brauchst du den Arbeitsspeicher und du brauchst die Speicherbandbreite wie es so schön heißt.
00:26:15: Dann hast du die Wahl wenn nicht genug Speicher da ist dass die Leute dann halt eingereit werden Q in Bartoschlange also nacheinander bearbeitet werden.
00:26:22: Das merken wir meistens nicht.
00:26:24: oder dass es dann parallel gemacht wird.
00:26:26: und es gibt dann auch Software die aus Paralysieren spezialisiert ist.
00:26:30: Da ist eine Einzelanfrage ein bisschen langsamer als bei der Konkurrenz.
00:26:34: Aber sobald mehrere Anfragen parallel kommen, ist es dann signifikant schneller.
00:26:39: Das ist eine Anfrage wird gerade bearbeitet und die nächste wird einfach darüber gestülpt und wird mit eingereicht und im nächsten Schritt mit der ersten verarbeitet.
00:26:46: Und das skalierst du dann hoch auf mehrere Dutzend User.
00:26:49: Dann hat man einen sogenannten aggregierten Fluput.
00:26:52: Das sind dann Tokens pro Sekunde wo ihr über alle User hochrechnest.
00:26:56: Dann bist du nicht in den Hundertern sondern in den Tausenden an.
00:26:59: Und das ist halt schön.
00:27:00: Parallelisierung heißt, erst mal unser ganzes Team kann wirklich gleichzeitig arbeiten?
00:27:05: Da muss ich aber sagen da gibt es auch eine harte Gleichzeitigkeit.
00:27:07: also dass wirklich so gleichzeitig arbeiten könnte heißen die sitzen gleichzeitig im Büro und chatten ein bisschen.
00:27:12: Aber wir wissen ja während der eine liest ist der andere schon wieder am tippen und während einer liest einen anderen tipp macht das LLM gar nix.
00:27:18: Das ist selten dass man da wirklich eine richtige Gleichzeitlichkeit hat.
00:27:21: aber wenn man die dann hat dann performen so manche Systeme halt ziemlich gut.
00:27:25: Und ein anderer Vorteil ist, er ist auch Multiplayer.
00:27:28: Da hat man halt mehrere Agenten drin, das sind in dem Fall nicht menschliche Agenten sondern diese künstlichen Agenten die dann gleichzeitig arbeiten.
00:27:36: Das sieht man jetzt auch im Cloud Code mit diesen Dynamic Workflows und den Subagenten dass dann gleichzeitig zwölf Agenten gestartet werden und jeder hat eine Teilaufgabe die kümmern sich parallel drum.
00:27:46: da wird so ne Grafikarte dann auch mal schnell heiß weil die teilweise noch wirklich parallel arbeiten.
00:27:50: Ich habe jetzt zwei Fragen an dich.
00:27:52: was es der größte Vorteil für einen Unternehmen die sagen Bleibt mir weg mit diesen lokalen Geräten, die sind auch in drei Jahren kaputt zwischendurch.
00:28:00: Geht auch noch was kaputt und wer weiß, was im Dreier für Hardware-Entforderungen sind?
00:28:06: Was ist der größte Vorteil von den Unternehmen, die sagen wir wollen AI aber wir wollen natürlich alles über APIs lösen von großen Ambitern?
00:28:14: Also APIs sind toll!
00:28:16: Ist für mich immer noch ein Einstieg und ich benutze selbst APIs.
00:28:20: Weil ein Vorteil einer API ist hast du gesagt Du musst ja nichts beschaffen.
00:28:24: Du fängst dann mit der Grafikkarte an.
00:28:26: Vorhin schön ausgeführt, da muss ein Geräuselturm rum.
00:28:29: Dann muss jemand die Software drauf installieren und gewartet werden.
00:28:32: Da kommt ein neues Modell.
00:28:36: Man hat auf dem Weg eine IT-Personen einstellen, die sich in Vollzeit drum kümmert nachdem wie groß das Unternehmen ist.
00:28:43: Manche Firmen machen das aber und nehmen das gerne in Kauf.
00:28:45: Ich hab mit Anwählten geredet.
00:28:46: Die haben solche Maschinen hingestellt.
00:28:50: Souveränität, also ein Anwalt.
00:28:52: Wenn es zum Beispiel ums Patentrecht geht, darf man nicht riskieren, dass die Patentinformation irgendwie geliegt werden.
00:28:57: und das passiert ja manchmal.
00:28:58: Chat-Este mit Open AI, Chat-este mit Enthropic.
00:29:00: dann haben sie einen Fehler, ein Problem mit dem Google Cash und dann kann man auf irgendwelche Artefakte zugreifen und da sieht man dann die Daten.
00:29:07: Passiert selten kommt aber durchaus vor und für manche Domänen, für manchen Kundenstämmer ist halt ein Knockout-Kriterium.
00:29:14: Aber API?
00:29:15: Ja stimmt!
00:29:15: Das ist einfach, tauschen hat Geld Und dann kriegt man meistens Leistung.
00:29:20: Das ist halt auch der Punkt, meistens.
00:29:22: gestern Abend hat Claude auch wieder ein bisschen Probleme gehabt das hat so ein bisschen gezuckt da hat nicht alles funktioniert.
00:29:27: Wartet man eine Stunde bis die sich wieder dann organisiert haben in Amerika.
00:29:32: selten kommt es vor dass Modell deployed wird das dann schlechter ist und dafür haben sie das alte was gut gewesen ist weggenommen.
00:29:38: das ist auch so eine Geschichte die hat man ab und zu gehört und wir merken auch hier an der Stelle Nährsouveränität Frage mit dem Datenschutz wie weit man die Kontrolle hat.
00:29:46: Es ist ja ein Spektrum.
00:29:48: Es ist ja nur ein Extrem, wenn man die Hardware direkt neben sich stehen hat mit Vor- und Nachteilen.
00:29:53: Das andere Extrem ist, man benutzt einen amerikanischen API, man benutzt eine chinesische API.
00:29:59: Ein bisschen souveräner ist, dass man eine europäische API benutzt, die nicht von einem Amerikaner bereitgestellt wird.
00:30:08: Die Amerikaner haben ja eh die Daten in der Hand und wenn es eine amerikanische Firma auf europäischen Grund ist, dann dürfen sie aufgrund des US-Cloud Acts auch auf die Daten zugreifen.
00:30:16: Das dürfen jetzt geregelt!
00:30:18: Das sind nicht so dass sie dann böse hacken sondern müssen halt nur sagen wir machen das oder kann einen Einspruch erheben usw.. Auf jeden Fall ist die Tür dann offen wenn man hat ein Rechenzentrum hat, dass kein amerikanisches Unternehmen ist wo man dann auch reingeguckt hat und sieht da werden keine Daten gespeichert.
00:30:30: Es ist natürlich auch eine sehr schöne Form der Form der Souveränität Und da ziel ich auch so ein bisschen drauf.
00:30:37: Also meine Vorstellung ist, dass jede Stadt mit hundertundzwanzigtausend Einwohnern so einen Rechenzentrum hat... ...wo dann kleine Modelle drauflaufen und sieben zwanzig B die ja die meisten Anwendungsfälle einfach lösen können.
00:30:47: Man macht uns nix vor.
00:30:48: für ganz harte Anwendung fälle und da zähle ich wahrscheinlich Softwareentwicklungen hinzu, brauchst du ein großes Modell?
00:30:55: Deshalb benutze ich auch Claude noch!
00:30:57: Aber wenn es jetzt um Content-Strategien geht, Pflegen von Webinheiten, Verarbeiten von Wissen, Umgang mit Excel Word und so weiter.
00:31:04: Da braucht man kein Frontiermodell, da gehen kleine Modelle.
00:31:07: Jetzt hast du schon die zweite Frage.
00:31:08: Ich wollte erst fragen was?
00:31:09: Also warum könnte sich ein Unternehmen für API entscheiden?
00:31:13: versus warum will das Souverän bei sich rumstehen haben?
00:31:19: Was ist denn ... das Geschäftsmodell, also der Chinesen.
00:31:22: Die schenken da irgendwie tolle Modelle.
00:31:24: ich kann die runterladen.
00:31:25: Ich kann die anpassen, kann sie sogar unzensieren und sagen jetzt können die auch hacken und können sonst was machen und können mir sagen wie ich Autos aufkomme... Also es ist ja, die geben solche ganze Modelle kostenlos frei diesen runter und die können sich nie wieder zurücknehmen.
00:31:41: Das ist ja zahnpasst aus der Tube, die können mir nicht das heruntergeladene Modell weg nehmen oder noch monetarisieren.
00:31:47: Da gibt's nur Interpretation.
00:31:49: Also nichts.
00:31:49: genau so weiß man nicht.
00:31:51: Interpretationen sind multidimensional.
00:31:53: die reichen von, die wollen einfach den Amerikanern das Wasser abgraben?
00:31:57: Das ist ja eine Marktgefährdung wenn du plötzlich ein Modell veröffentlicht was genauso gut ist wie das Wies Opus oder Wies Fable und es ist dann plötzlich Open Source.
00:32:06: Du hast natürlich ne Grenze, brauchst halt entsprechende Hardware, die haste nicht zu Hause weil die großen Modelle mit zwei Komma fünf Trillionen Parametern die kannst du zuhause einfach nicht laufen lassen.
00:32:15: da brauchst du wirklich einen Rechenzentrum für so.
00:32:17: die eine Sache.
00:32:18: Also, Böse in Anführungszeichen gegenüber den amerikanischen Marktmitbewerbern.
00:32:25: Auf der anderen Seite gibt es auch Interpretationen, dass das irgendwie ein bisschen altruistisch ist.
00:32:29: Dass die Idee mit Open Source besser verstanden haben und dann wirklich der Menschheit einen Geschenk machen.
00:32:35: Ist wahrscheinlich ein Haken dran, den wir hoffentlich irgendwann mal sehen wenn's ihn gibt.
00:32:40: Ich sehe aber im Open Source einen klaren Vorteil.
00:32:42: also wir wären jetzt schon inhaltlich viel weiter hätte OpenAI damals OpenAI gemacht.
00:32:50: Im Sinne von, die hatten ja das GPT-II, das hat schon gut funktioniert.
00:32:53: GPT III hat schon also für die Anwendungsfälle damals auch sehr, sehr gut funktionierten und haben gesagt ne es kriegt ihr nicht.
00:32:59: aber sobald man das irgendwie rausgibt und soweit die Leute in der Lage sind dass auch zu Hause oder im rechten Zentrum laufen zu lassen machen sie einfach viel mehr Experimente.
00:33:07: wie ist denn das?
00:33:08: Wenn man mit OpenAI hat man immer anfangs nur gechattet Und da waren ja auch die ganzen Mechanismen drum herum.
00:33:15: Es gab keine Mechanism, dass man per OpenAI die eigenen Daten verarbeiten konnte und musste immer Copy-Paste machen.
00:33:21: Das war schlimm, das haben wir dann mit den Agenten aufgelöst.
00:33:24: aber man hat nur an dem System prompt Sachen heranschreiben können.
00:33:27: Man hatte nicht edieren können komplett.
00:33:30: Sobald man eine API hatte ging es dann auch so ein bisschen besser weil ich drifte hier so ein bißchen ab also...
00:33:35: Ich find's interessant!
00:33:38: Also nach wie vor.
00:33:39: meine Vermutungen ist, dass es definitiv gut für die Community.
00:33:44: Die machen sehr viele Experimente.
00:33:46: da werden an einem Wochenende Erfahrungswerte generiert, die man über eine API einfach nicht generieren kann.
00:33:51: Wenn ich jetzt nur sehe was die Leute für Magie machen damit auf noch kleinere Hardware diese Modelle laufen und dann plötzlich alles autonom laufen lassen das phänomenal wie kreativ die Leute unterwegs sind.
00:34:01: Das ist auch ein großer Beitrag.
00:34:03: gab auch mal so Momente, da haben sie dann Frankensteins gebaut.
00:34:06: Da haben Sie Teile aus Modell A genommen und zusammengenäht mit Teilen aus dem Modell B also ganz krude wie ihr Frankenstein-Film neuer Prometheus.
00:34:16: Da sind dann auch Erfahrungswerte herausgekommen das Feintuning usw.
00:34:20: Das geht halt nur wenn man die Modelle dann rumlegen hat.
00:34:22: aber an und für sich momentan bin ich da noch relativ entspannt.
00:34:27: Ich sehe für mich in dem was ich mache keine Nachteile.
00:34:32: Ich habe nicht gesehen, dass das LLM jetzt ... Das chinesische LLm ist plötzlich anfängt ein Stück Code zu generieren und dann wichtig, die Informationen auf meiner Festival zu finden.
00:34:42: Um dann Import aufzumachen und die Information nach China zu schieben, das habe ich nicht gesehen.
00:34:48: Die Frage was es in den Plastik-Systemischen Friedens passiert?
00:34:52: Die stelle ich normalerweise nicht in.
00:34:54: dem, was ich täglich mache ist natürlich blöd, wenn es dahingehend zensiert ist.
00:34:58: Aber ich habe auch gesehen, wenn man den Wikipedia-Eintrag von diesem Event reingibt, dann verweigert sich das LLM nicht... Das hab' ich mal mit quen.dreisächs gemacht.
00:35:06: Verweigern sich nicht mit den Daten umzugehen und dann halt die Wahrheit, die da aufgeschrieben ist, wiederzugeben.
00:35:12: Nur aus dem Stand raus hat's nicht gemacht!
00:35:13: Also auch die Zensur, die darin ist – und das müssen wir ja machen… Da gibt's irgendeine Parteidrucktrin ….
00:35:18: Die Zensurt ist mir persönlich nie auf die Füße gefallen.
00:35:21: Und nochmal….
00:35:23: Hauptsächlich mache ich Wissensverarbeitung, also Wissen strukturieren.
00:35:27: Mit Wissen was Ich ran schleppe.
00:35:29: da ist eigentlich egal was auf dem Platz des himmlischen Friedens passiert ist.
00:35:32: Und lustigerweise wenn man jetzt nicht Chinesen fragt dann sagen die ja aber ihr habt auch im Westen eure Modelle ist noch genauso zänziert.
00:35:39: wir haben das.
00:35:40: eine Thema dass ihr immer bemüht mit dem platz des Himmlischen friedens aber versuch mal aus Openair herauszufinden ob die Lockdownmaßnahmen während der Corona Pandemie, ob das alles rechtlich war.
00:35:52: Und spätestens da werden dann die Antworten der westlichen Modelle auch eher sperrlich und sozusagen die Wahrnehmung dort ist genau die gleiche nur auf andere Themen in der westliche Welt.
00:36:03: Das ist wirklich faszinierend.
00:36:04: Genau!
00:36:06: Ich nehme einen Abstand dazu weil ich sehe nicht dass diese LLMs dazusind die Wahrheit aus sich heraus wiederzugeben sondern die sollten nur in der Lage sein durch web suchen durchsuchen in den eigenen Dokumenten da die teile zusammensetzen.
00:36:23: Na weil wir wissen ja auch hast du den knowledge cut off das ist ja dass das einstiegs thema irgendwie weit kannst du den lm trainieren, na das ist das haben wir früher immer gemacht.
00:36:30: kam ein deutsches modell raus da gab es auch ein paar kandidaten hat gefragt wer als ne bundeskanzler?
00:36:34: Dann hat man dann gehofft, dass Scholz gesagt wird.
00:36:38: Aber dann wurde Merkel gesagt und von März wurde nichts gewusst.
00:36:41: Das wäre ja nur für sich Fake News.
00:36:42: Wenn ich den Modell frage, wer ist denn der Bundeskanzler?
00:36:44: Er sagt Merkel und gerade ist Merz halt im Amt zwar eine Sommerfrische aber immer noch im Amten.
00:36:49: Dann wären das an der Stelle schon Fake News!
00:36:52: Aber wenn es Modell hat in der Lage ist mal ein bisschen nachzugucken... Ich meine, der Bundestag hat ne Seite, da stehen die entsprechenden Leute drauf, entsprechend posten ... Stand heute, weil ich weiß ja.
00:37:01: Ich habe auf die Uhr geguckt und auf den Kalender ist der am neunzehnte August.
00:37:05: Auf der Bundestagsseite steht Brand aktuell das ist Friedensreich-März.
00:37:08: Gebe ich doch halt mir wieder, dass es Friedensreiche März ist?
00:37:11: Jetzt fällen wir ein Gwen als Open Weight Modell, das sich mir runterladen kann.
00:37:17: Diebsi hat gerade eine tolle VFIA Flash Variante zum Download gegeben.
00:37:22: Kimmy Moonshot K III Das sind alles jetzt drei Gips im Westen gute Open-Wide-Modelle, die ich mir runterladen und installieren kann.
00:37:32: Oh jetzt kommt die dramatische Pause!
00:37:38: Das letzte gute Modell... das war eine leichte Wiedergutmachung, den nicht gereicht hat, war das GPT OSS.
00:37:44: Ja, von Open AI.
00:37:47: Ist natürlich schon komplett outdated.
00:37:52: Da fehlen gewisse Mechanismen, die man heute besonders fürs Argentische braucht.
00:37:55: Die sind da einfach nicht drin.
00:37:56: Gemma fällt von Google rein?
00:37:58: Ja, also bei uns ... wenn's ums Model-Housing hab der erwähnt.
00:38:03: Ich gönne mich ja darum dass Rechenzentren betrieben werden.
00:38:05: es gibt da Nachfrage.
00:38:06: man sieht den Statistiken.
00:38:07: das Quen ist beliebt Gemma IV in einer siebenzwanzig oder sechsundzwanziger b Variante und dann gibts noch Nemotron, Nano Stimmt drei dreißig B. also Nvidia hängt sich da auch gerade rein.
00:38:19: Also da drücke ich auch grad so ein bisschen die Daumen Und auch Facebook hat mal wieder was rausgehauen.
00:38:25: wie sind das?
00:38:25: Glimmer glaube ich.
00:38:27: Also letzte Woche und das wird mir jeder nachsehen, es geht jedem so.
00:38:31: Gerade die letzte Woche war Weihnachten.
00:38:34: immer wieder was Neues Zwischendurch, was sie erwähnt Kimi, das war ganz toll.
00:38:38: Und auch in anderen Domänen da gab's dieses Minimax H-III Was jetzt plötzlich Videos generiert Die Konsistenz sind mit Musik drunter und Sprache und ich sag Juhu!
00:38:48: Das läuft dann halt auch auf einem Gaming PC entsprechend langsam muss man ein bisschen warten.
00:38:52: Auf größerer, schneller Hardware ist es natürlich schneller.
00:38:54: Man kann schneller iterieren aber das läuft halt auch da.
00:38:58: in anderen Domänen sind zumindest die Chinesen auf der Spur dass sie dafür raushauen und viele der Amerikaner sind jetzt darauf eingesporen.
00:39:06: Das war glaube ich entweder, die sind ja vorgepresst mit so eine Initiative wie Support & Open Source, entweder die sagen das oder machen das ja weil Nemo-Ton Team ist sehr stark und dauert nur ein paar Monate bis die dann richtig starke Modelle haben Und ich hoffe, dass dann auch noch ein paar andere Firmen nachziehen.
00:39:22: Und natürlich die leise Hoffnung, dass es in absehbarer Zeit auch europäische schräg-deutsche Modelle gibt, die wettbewerbsfähig sind.
00:39:31: Also die nicht nur zeigen, das man das Handwerk beherrscht sondern die auch zeigen, dass die Modelle, die herauskommen, ziemlich gut sind.
00:39:37: Kannst du dir vorstellen, dass das was wir an Modellqualität gerade haben, dass da noch viel mehr geht?
00:39:48: Ich glaube, wir haben jetzt schon das meiste dieser LLM-Erfindungen hinter uns.
00:39:57: Und jetzt gibt es nur einzelne Verbesserung?
00:39:59: Oder glaubst du, dass das was die letzten vier Jahre passiert ist ersten Bruchteil dessen ist, was die nächsten zehn, fünfzehn Jahre auf uns zukommt?
00:40:08: Es ist platonsche Höhengleichnis!
00:40:10: Ich sehe, dass ein bisschen das Problem von den LLMs ist.
00:40:13: Die sehen ja nur einen Schatten in unserer Welt.
00:40:15: Also mittlerweile ein bisschen mehr weil die können auch seit einer Weile mit Bildern umgehen.
00:40:19: aber im Wesentlichen besteht die innere Welt vom diesen LLM aus all dem was wir Menschen mal aufgeschrieben haben In Form von Büchern und natürlich Gott bewahre auch in Form von denen Sachen die wir ins Internet gepostet haben.
00:40:31: also die Teilhabe von Den llms an unsere welt ist eigentlich nur ein schatten eine wand und jetzt braucht man da noch ein bisschen meer.
00:40:40: Was ist denn jetzt nächste Generation der Roboter?
00:40:42: Die werden immer besser.
00:40:43: Was ist, wenn diese LMS oder die Nachfolgemodelle dann auch noch viel besser drin sind an dieser Welt teilzuhaben?
00:40:49: Weil das ist immer nur so ein kleines Zettel, den wir unter Tür durchschreiben, erschieben mit unserer menschlichen Erfahrung was unsere Welt betrifft und dann ja können wir... Und dann wenn die KI was in unserer Welt machen will schiebt sich dann ein Zettels zurück wo steht zwei Schritte nach vorne machen und da ist glaube ich noch sehr viel zu holen.
00:41:04: also stichwort Robotik.
00:41:06: Ich glaube, da sind wir jetzt so weit.
00:41:08: Man sieht ja jeden Tag was die Roboter mit jedem Tag mehr können und viel autonoma ist laufen sie plötzlich Marathons.
00:41:14: bei uns war es früher dieses Fußball spielen.
00:41:16: ich bin guter Dinge dass das auch bis zwanzig fünfzig spätestens geknackt ist.
00:41:20: also da fehlt noch insgesamt etwas.
00:41:22: ich bin schwer zufrieden dass diese modelle sehr gut im programmieren sind noch sehr gut darin sind Bücher zu schreiben.
00:41:27: und dann auch bücher zu schreiben die nicht so nach diesem Claude Marketing Sprech klingen muss man auch ein bisschen aufpassen.
00:41:34: Aber von dem, was wir noch an Tätigkeiten haben, die man automatisieren kann.
00:41:39: Was nicht heißt dass man sollte ist glaube ich noch einiges offen.
00:41:42: Du hast eben dieses Bild von dem Zettel unter der Tür durchschieben verwendet und das ist so'n Gedankenexperiment bei dem man fragt, naja jetzt also da fragt... Ist das wirkliche Intelligenz in diesen Modellen?
00:41:56: Das fühlt sich ja total so an und gibt gute Tipps und versteht wenn ich sage ich habe schlechte Laune
00:42:01: usw.,
00:42:01: dann denkt man es ist doch ganz klar eine Intelligenze dahinter.
00:42:04: Und dann wurde das mit diesem Gedanke-Experiment so erklärt, dass man das stell dir mal vor.
00:42:08: Du stehst von der Tür und willst was übersetzen lassen auf Chinesisch?
00:42:12: Und schreib's das auf ein Zettel, schiebst es unter die Tür durch.
00:42:14: Auf der anderen Seite ist halt das ein Roboter, der guckt drauf und hat eine riesengroße Wand voller Regale und sucht einfach an welchem Regal genau dieses Zeichen ist und holt den Zettl raus.
00:42:25: Denn das ist die chinesische Übersetzung und läuft wieder zur Tür und schiebt das zurück.
00:42:29: Und du kriegst also Übersetzungen und denkst also toll!
00:42:32: Der kann ja chinesisch.
00:42:34: Obwohl, das was unter der Haube passiert ist einfach nur war hat sich jetzt angeguckt.
00:42:37: Hat geguckt wo habe ich das schon mal in meinem Training gesehen läuft irgendwie hin und holt den Zettel raus und schiebt ihn zurück.
00:42:44: Das Problem die ganze Begrifflichkeit.
00:42:47: also wir reden ja von künstlicher Intelligenz und dann kann man auch sagen Ja was bedeutet denn künstliche Intelligenzen begriffes Begriffs Erklärung?
00:42:54: Kann man sagen ja künstlich ist wahrscheinlich vom Menschen gemacht.
00:42:58: andere Kreaturen auf dem Planeten Die können das nicht, die geben sich nicht mehr die Mühe, das zu machen.
00:43:02: Die haben ganz andere Probleme oder zum Glück ganz andere Lebensumstände.
00:43:06: Das sind irgendwie vom Menschen gemacht.
00:43:09: und dann kommt der nächste Hammer-Teil in.
00:43:11: das ist einfach Intelligenz.
00:43:13: Dann möchtest du ja was?
00:43:14: Deutet denn Intelligenzen?
00:43:15: Und dann ist es denn messbar.
00:43:17: und dann schaut man bei uns in der statistischen Psychologie nach wobei muss ich nicht statistisch sagen weil Psychologie ist ja Statistik wo man dann herausgefunden hat dass Ja, die einzige Messung für die Intelligenz ist ja dieser IQ, der Intelligenzkotzent mit all den Nachteilen, die da hat.
00:43:35: Also das Beste was die Psychologie je hingekriegt hat und das eigentlich auch sehr schlimm.
00:43:44: Der IQ ist die schlimmste Art und Weise die menschliche Intelligenze zu messen bis auf alle anderen Maßstäbe.
00:43:51: Was ich damit sagen möchte.
00:43:53: Da ist noch sehr viel Luft nach oben und dann weiß man ja auch, da kannst du verschiedenste Sachen messen.
00:43:58: Schach spielen wirklich intelligent was misst man denn da?
00:44:02: Und da versucht man sich auch ein bisschen rauszuwomen.
00:44:05: also jeder der mal eine Abschlussarbeit in KI schreibt muss auf die ersten Seite das irgendwie definieren.
00:44:10: und dann ist meine Empfehlung immer so schnell wie möglich in das präzise abzubiegen.
00:44:14: Also jetzt nicht sagen wir machen ja künstliche Intelligenz sondern leider nicht.
00:44:17: Wir machen ja Multiagentensysteme Und Multiagentensysteme sind automatische Systeme, die in einer Umgebung sind und in dieser Umgebungen das Performance-Maß optimieren.
00:44:28: Also eine Zahl maximieren oder so beim Performancemaß bei einem autonomen Auto.
00:44:33: Das ist dann hier ganz einfach wie lange Fährten das bis es einen Unfall gibt?
00:44:37: Oder wie lange fährten dass bis der menschliche Testfahrer ins Lenkrad greift?
00:44:42: Das kann man ja alles messend zahlen!
00:44:44: Wenn man dann halt sieht, das dauert so viele Millionen Kilometer und weiß man okay.
00:44:48: Da ist ein Performancemaß ziemlich groß.
00:44:50: Beim Schachspielen, beim Go spielen, da hat man diese E-Loscore.
00:44:53: also wenn man gewinnt kriegt man einen Punkt, wenn man unentschieden hat kriegt auch irgendwie was.
00:44:56: Wenn man verliert, dann sieht es nicht ganz so gut aus als kann man ein paar Spiele machen und dann geht halt die Score hoch.
00:45:01: Dann ist man da plötzlich bei irgendwie so tausend zweihundert.
00:45:03: und wenn man dann diese Kis gegeneinander trainieren lässt ohne dass Menschen dabei sind, dann kommen die Kis bei E-loscores raus, die jenseits von denen sind, was Menschen können.
00:45:11: Oder weil der Musik, da kann man Frequenzoptimierung machen.
00:45:14: Also analysieren wie oft wird da irgendwie eine Spannung aufgebaut oder die Spannungen aufgelöst?
00:45:19: Das kann man ja auch alles machen.
00:45:20: also immer in die Frage da hat man was rumlaufen dass man irgendwie als Anführungszeichen intelligent markiert oder zumindest unterstellt ist irgendwas Smartes drin und dann muss man messen wie gut das ist.
00:45:30: Und es ist ja wieder Statistik und wir sehen uns bei den LLMs jeden Tag wenn diese Benchmarks ausgerechnet sind.
00:45:36: Da wird rechnet werden, da wird er am Anfang erst mal ermittelt Obwohl ich vorhin gesagt habe, ich mag das nicht.
00:45:41: Wie gut sind die Faktenwissen?
00:45:44: Aber dann auch wie gut sind sie da drin, mathematische Aufgaben zum Beispiel zu lösen?
00:45:48: oder wiegut sind Sie darin viele agentische Schritte zu machen?
00:45:52: und da sammeln sich halt gerade diese Benchmarks und vor allen Dingen sammelt sich auf so einen großen Haufen die Benchmark wo dann die LMS einfach on top rausgekommen sind.
00:46:01: Mein Schock-Benchmark war damals bei GPT IV glaube ich.
00:46:06: Also in meinem Leben hatte ich so acht Stunden in Summe, wo es mir nicht so gut ging wegen der LLMs.
00:46:12: In Summe verteilt auf drei Tage mit einem großen Abstand dazwischen.
00:46:15: Da gab's von GBT-IV diesen Technical Report, wo drin geschrieben wurde, wir messen jetzt unter anderem wie gut dieses Modell US-amerikanische Universitätsklausuren löst.
00:46:28: Da wischen wir uns ein bisschen den Schweiß von der Stirn, weil wir davon ausgehen, dass unsere vielleicht ein bisschen schlimmer sind.
00:46:32: Aber das war auch nur eine Frage von paar Monaten und vor allen Dingen messen wir bei GPT-IV wie gut die in Programmieren sind.
00:46:38: Dann habe ich lange gedacht – ich habe mit dem Neunziger Anfang zu programmieren – Das wird mir auf gar keine Art und Weise gefährdet.
00:46:44: Gut, ging es mir vier Stunden nicht ganz so gut.
00:46:46: Ich hab dann genau darüber nachgedacht, habe mich beruhigt und bin dann einfach rausgekommen.
00:46:50: Okay, nehme ich das halt als Werkzeug in mein Werkzeugkasten auf und kann dann halt schneller entwickeln!
00:46:55: Und da stehe ich heute, also ich will es auch nicht missen.
00:46:58: Ich bin auch sogar einen Punkt angekommen wo ich eigentlich jedem Softwareentwickler empfehlen muss, da auf diesen fahrenden Zug aufzuspringen einfach wegen der Schlagstelle und vor allen Dingen wegen der Qualität die man erzeugen kann wenn man's richtig
00:47:12: macht.".
00:47:12: Es gibt so ein Zitat – ich weiß nicht ob das ein echtes Zitat ist oder nicht?
00:47:17: Wenn in Silicon Valley Leute irgendwie einen Job wechseln oder ein Unternehmen verkaufen, dann gehen sie jetzt nächstes Unternehmen oder fangen was Neues an.
00:47:24: Oder helfen woanders mit wo gerade es skaliert wird.
00:47:28: aber wenn Menschen die in der AI Szene gearbeitet haben ihren Job aufhört und sagen Sie ich werde Bienenzüchter Ich will auch eine einsame Insel ich will aus Land ich will mich selbst versorgen Was so'n bisschen nähert dass die da ganz an der Quelle arbeiten schon um wie sagen All das, was sie für ihr Leben vielleicht als Gesetz gesehen haben ist gerade komplett in Frage gestellt.
00:47:51: Du beschäftigst dich jetzt auch so viel mit AI und den Foundations dahinter und hast gesagt, die ging es acht Stunden schlecht in Summe im letzten Jahr.
00:48:01: Wie schätzt du das ein?
00:48:03: Sagst du egal, was is', einfach sagen, denn nutze ich das ja zahlt oder sagst du, dass hat schon das Zeug uns so fundamental Schock-Shell zu versetzen Dass das Gesellschaften durcheinander wirbeln kann.
00:48:16: Also es wird auf jeden Fall verbirbeln, es wirbelt auch schon.
00:48:19: Allein wenn man sich das Bildungssystem anguckt... Na unser Leid damals in den neunzehlen Jahren war ... Wir hatten damals die Microsoft Encarta.
00:48:28: Das war eine CD mit ... Es war so ein Lexikonsum, was auf einer CD passt?
00:48:34: Das ist gar nicht mal in der Nähe von der Größe der Wikipedia gewesen.
00:48:37: Daten unsere Lehrer Probleme mit, weil für uns hat es bedeutet wir sollten Aufsatz schreiben zum Thema X. Wir haben danach geguckt und haben den Text dann hoffentlich umgeschrieben.
00:48:45: Wenn man keine Zeit hatten, haben wir Copy-Paste gemacht, weil der Lehrer war ja nicht in der Lage sich diese CD zu beschaffen und dann direkt nachzugucken.
00:48:51: das haben sie auch versucht ein bisschen zu tricksen und wir waren halt viel besser im Umschreiben.
00:48:54: also bös formuliert.
00:48:56: Hat uns aber beigebracht digitale Quellen einfach zu benutzen um einfach Daten zu aggregieren um neue Sachen drauszuschreiben.
00:49:03: Deshalb muss man dann komplexere Aufgabenstillungen stellen.
00:49:06: Und jetzt ist es ja fast vorwarten, ein paar Jahre später so dass diese LLMs das eigentlich komplett übernehmen hinterfragt das gesamte Schulsystem.
00:49:13: Also die Frage was soll man den Leuten da noch auf dem Weg mitgeben?
00:49:16: Ich weiß es gibt ein paar Skills die man einfach braucht.
00:49:19: Das ist so ein bisschen dieses Computational Thinking.
00:49:21: wie heißt also Problemlösung Hast ein Problem, kannst du nicht in einem Schritt lösen.
00:49:25: Machst mehrere Schritte draus.
00:49:27: Muss vielleicht eine Schleife einbauen oder muss man abzweigen?
00:49:29: was parallel machen dieses Debatten Conker, Teile und Herrscher wie man halt von einem Problem zu einer Problemlösung kommt.
00:49:35: Was eigentlich so einen Informatiker neben der Datenverarbeitung ausmacht.
00:49:40: So einen gegebenen Problem das noch nie gelöst wurde oder dass die Informatik nicht gelöst hat schnell eine Lösung finden.
00:49:46: Oder zumindest durch den Lösungsraum so durchzukommen, dass man damit ein Problem dann in guter Zeit löst.
00:49:54: Das ist auf jeden Fall hinterfragt.
00:49:55: Wir haben es am Anfang schon festgestellt, dass das Schulsystem dafür gar nicht gemacht ist.
00:49:59: und jetzt merken wir halt, dass sehr viele Aufgaben die Leute mit Inbunds gemacht haben auch Leute sehr viel Geld oder zumindest sehr viel geld verdient und auch viel Zeit investiert haben, dass man die gut automatisieren kann.
00:50:13: Das ganze Content Creation da würde ich fast einen Haken hinter setzen also KI generierte Texte fallen dadurch auf Dass da gewisse Muster drin sind, weil die halt eine große Wahrscheinlichkeit einfach haben.
00:50:28: Das ist kein Problem und das ist eine Herausforderung.
00:50:30: Da gibt es diese Muster, die immer reinkommt.
00:50:31: Die muss man dann nachdenklich korrigieren kann man auch der KI als Aufgabe geben.
00:50:36: aber sie können einfach in so einem hohen Durchsatz auch gute nicht Fake News generieren.
00:50:40: Also Daten, die irgendwie Hand und Fuß haben Beispiel Tageszeitungen da kann man wahrscheinlich von all dem, was geschrieben wird, irgendwie automatisieren.
00:50:49: In der Tageszeitung sollte eigentlich viel mehr ausbauen, dass die Redakteure draußen sind und neue Informationen reinholen.
00:50:55: Aber wie wir es vorhin schon hatten ... Die Roboter laufen halt nicht rum!
00:50:59: Die rufen auch noch nicht vom Oberbürgermeister an, sondern das muss man dann noch selbstvorstellig werden da sich die Menschen noch drin.
00:51:06: alles, was irgendwie mit Content zu tun hat, würde ich sagen Haken dahinter, Wissensverarbeitungen sowieso?
00:51:14: Das ist ja direkt daneben der Anwendungsfall.
00:51:16: Also wissen aufschreiben, wissen aggregieren, wissen umformatieren, Wissen ranziehen zettelkastenmäßig und was draus schreiben.
00:51:25: Ich würde mir auch keinen Zettel-Kasten mehr händisch anlegen.
00:51:29: Ich habe zwar mal nur Notizen aber ich hab auch einen großen Notizenhaufen den nicht zusammen mit den KIs irgendwie so maintainen wird.
00:51:37: Geht auch schon in die Zehntausende Einträge und so.
00:51:40: Es ist spannend wenn wir da drin rum navigieren, programmieren.
00:51:44: Was wir gerade sehen ist, dass die KI's immer länger und größer programmieren können.
00:51:48: Also was früher hast du irgendwie so ein Flappy Bird schnell programmieren lassen können.
00:51:54: Das lief dann eins durch hat ein bisschen gedaubt bis die KI das wirklich in einem Wurf machen konnten.
00:51:58: Und heute geht es auch viel größer, sodass eine KI dann mal eine Stunde an irgendwas rumprogrammiert und dann auch zu einem guten Ergebnis kommt.
00:52:05: Das kommt immer häufiger und diese Aufgaben werden halt auch immer größer.
00:52:10: Und das ist eine Herausforderung für die Softwareentwicklung weil Die Software Entwicklung, die hat mal versucht.
00:52:16: Die haben einen Pflasterchen geklebt.
00:52:18: da gibt es hier dieses Scrum zum Beispiel Agile Methoden und die haben ja damals eingeführt weil man in der Software Entwicklung immer dieses Bottleneck hatte.
00:52:25: Egal wie sehr man Sachen durchdacht hat, der Programmierer muss immer noch programmieren.
00:52:28: das hat lange gedauert.
00:52:30: Und dieses Bottleneck ist halt weg.
00:52:32: Das gibts nicht mehr.
00:52:33: du kannst heute mit einem Entwickler Zum Beispiel Cloud Code, Sophie machen wie ein Team von sieben Leuten in einem Sprint also zwei Wochen gemacht hat.
00:52:42: Das macht da einfach so.
00:52:43: Wir werden Tests geschrieben und dann kommt eine gute Qualität raus.
00:52:46: Und ich glaube dieses Muster wird einfach noch weiter ausgeprägt.
00:52:49: das wird immer größer und spannend wird es dann ab dem Kipppunkt wo wir belegen dass in den Domänen die man betrachtet die KI halt definitiv besser ist als der Mensch.
00:52:59: Das hat Elon Musk glaub ich mal gesagt.
00:53:00: die nächste Bedrohung ist wenn die KI dann massiv widerspricht.
00:53:05: Ich, es ist kein Geheimnis habe ich glaube schon ein paar Mal gesagt.
00:53:10: Ich hab meinen Claude mal so eingestellt dass im System Prompt drin steht hinter Frage mal das was ich schreibe und dann werde ich von Claude angesehen.
00:53:20: Stimmt so nicht!
00:53:21: Das ist faktisch falsch.
00:53:22: Es geht damit nicht weil hier meine ich das ist doch gut Wenn man mal so ein paar dezenten Widerworte bekommt.
00:53:28: Und das kann man halt einstellen, dass man auch stärkere Widerwirte bekommt und das ist wie gesagt eine Drohung, dass es dann automatisch passiert.
00:53:36: Wenn ich dir jetzt verbiete ab morgen selbstrecht zu arbeiten aber dir dafür anbiete, dass du in einem der großen Frontierunternehmen arbeiten darfst und auch gerne in der Position der du möchtest welches Unternehmen findest du besonders spannend?
00:53:49: Das wird
00:53:52: jetzt sehr, sehr schwierig.
00:53:54: Ich bin sehr empathisch und kann mich in andere Leute reinversetzen.
00:53:57: aber ich bin aus diversen Gründen im Freiberuf gelandet weil maximale Freiheit was sich mit meinem Temperament so ein bisschen deckt Und ich habe in Festanstellungen die auch lange gemacht haben zwar Freiheiten genossen Aber nicht in dem Maß Bei wem würde ich den gerne?
00:54:14: Also ich hab eine Zeit lang hätte ich gesagt Enthropic wäre ziemlich toll gewesen historienische Marketingkampagnen gefahren, die ich bedenklich fand.
00:54:25: Das war nicht mehr so gut!
00:54:26: Also ich würde mich... Ich habe nie darüber nachgedacht.
00:54:29: aber sowas wie New Research diesen Agenten da schreiben und verbessern das könnte ich mir vorstellen.
00:54:35: Aber wenn im Zweifel, wenn ich denke doch ich möchte in Richtung Produkt gehen dann mache ich da meine eigene Firma.
00:54:42: Also ich bin dankbar für jeden Kunden, Corporate Kunden den ich dann begleiten kann bei der eigenen digitalen Transformation in der künstlichen Intelligenz.
00:54:50: Aber dass es da eine Firma gibt, wo ich dann darauf warte, dass die Limousine vorfährt und das die mich abholen zu meinem Vorstellungsgespräch ist momentan nicht so.
00:55:00: Ich bin sehr dankbar und ich lache auf Holz, dass ich hier noch ein bisschen weiter freiberuflich unterwegs sein
00:55:06: darf.".
00:55:06: Das heißt wenn ich dir sage A oder B sagst du auf jeden Fall C?
00:55:09: So ein Typ bist Du!
00:55:12: Jetzt haben sicherlich Leute zugehört und sagen, ist ja schon irgendwie ganz spannend.
00:55:16: Und irgendwie sovereign zu sein und alles selbst zu betreiben ist auch toll und kann nie verkehrt sein eine gewisse Unabhängigkeit zu haben.
00:55:24: wie könnte so ne Roadmap wir haben es August so eine Roadmap bis Ende des Jahres für ein Unternehmen aussehen stellen?
00:55:29: was her haben den Vertrieb haben irgendwie vielleicht auch einen Service der sich um Kunden kümmert haben Marketing haben Buchhaltung Geschäftsführer?
00:55:38: Was könnte für die irgendwie so eine Roadmap sein, Stück für Stück Ersterfahrung mit sovereign AI zu machen?
00:55:46: Was brauchen die und was könnten erst die Goose Cases sein?
00:55:48: oder sagst, probier das mal aus.
00:55:49: Wenn es euch gefällt macht mehr davon.
00:55:51: also dass alle erste was sie machen.
00:55:53: Das ist nicht zu variieren Es ist immer ne Empfehlung überhaupt um an Fuß zu fassen ja installiert euch doch mal was von OpenAI bezahlt.
00:56:00: Mal im Monats Abo für Claude Gebt das man paar mehr Leuten in Hand Cursor Codec sehen nach dem wie's aussieht.
00:56:06: Also wenns Programmierer sind, dann kriegen die Cloud Code.
00:56:09: Wenn das nicht Programmierers ist, dann eher so was wie Cloud Co-Works, was ein bisschen handsamer ist und es ein bisschen breiter aufgestellt wird, was die Userbase betrifft.
00:56:17: erstmal überhaupt um reinzukommen weil nur auf erstes Chat GPT AI, was gar nicht wie die URL heißt, nur auf die Chat GPTI Homepage zu gehen.
00:56:26: Das ist Chatpunkt ... Oh ja, das war gut.
00:56:28: Allein Vertretungsanspruch!
00:56:30: Das reicht einfach nicht mehr.
00:56:32: Also heute ist es bärminimum, dass man auf irgendeiner Art und Weise mit einem Agenten arbeitet Und da ist zum Beispiel das was entfropik anbietet.
00:56:39: aber auch was die marktmitbewerber anbieten ist dann wunderbarer einstieg.
00:56:43: Alles unter dem gesichtspunkt dass man sehr stark darauf aufpasst Was das macht?
00:56:47: Dass man Auch besonders wenn die KI eine aktion ausführen möchte dass man dahinter fragt darf die das jetzt Muss ich da meine zustimmung geben und vor allen Dingen welche daten man da rein gibt.
00:56:57: genügend leute die haben daten die ganz schön sind, aber die sind halt eh schon abgeleitet aus Wissen was man aus dem Internet hat.
00:57:04: dann kann man dann experimentieren.
00:57:06: Also erstmal ganz kleine Sachen machen erst mal nur lesen und dann machen wir ein bisschen schreiben.
00:57:11: Wie sieht es denn aus wenn der KI plötzlich Powerpoint Folien baut oder ein bisschen supportet zumindest im Raussuchen der E-Mails für die Steuererklärung?
00:57:19: das sind ja Sachen die kann man heute schon so machen.
00:57:21: Wie gesagt, mit einer großen Vorsicht besonders wenn man da einsteigt.
00:57:24: Und dann ist der nächste Schritt das man sagt ja okay es müssen wir mal genau darauf achten.
00:57:29: welche Daten sind jetzt vielleicht ein bisschen kritisch?
00:57:31: wo möchte man drauf achten dass sie nicht landet?
00:57:34: Bei den Medizinern ist das relativ einfach.
00:57:36: die werden vorher halt an Dummy-Daten üben wie es halt auch so machen und irgendwie irgendwelchen Attrappen üben Auch in den Daten nicht nur bei den Patienten um dann zum Riechenpatienten zu gehen.
00:57:45: und dann gibt es halt keine Option, außer souverän zu sein.
00:57:49: Und dann ist wahrscheinlich der Mindesteinstieg ... dass man Tokens bezahlt bei einem souveränen DSGVO-konformen Rechenzentrum in Deutschland von nem deutschen Schritschig Europäischen Unternehmen.
00:58:01: Bei Franconia AI betreue ich gerade von Rockenstein AG ein schönes Beispiel.
00:58:06: aber auch die Telekom stellt sich grad auf.
00:58:08: Jonas hat das, Amy gibt's ganz viel, die sowas betreiben und halt nur die Tokens bezahlt und hat da schon bisschen KI Leistung.
00:58:17: Wenn man dann natürlich ganz, ich weiß nicht ob es eine Neurose ist.
00:58:21: Aber wenn man sich den Business Case ausrechnen kann, dann beschafft man sich dann eigene Hardware und dann ist vielleicht ein Einstieg in diese Spark-Varianten
00:58:29: Gbz.,
00:58:30: heißt die Jahr, eine hundertundzwanzig Gigabyte Shared Memory.
00:58:33: Die Speicherbandbreite ist nicht ganz so gut.
00:58:35: das heißt...
00:58:36: Das ist eine Architektur, die es von Nvidia gibt aber von verschiedenen Herstellern angeboten wird weil die noch so ein bisschen was drumherum bauen.
00:58:42: Genau
00:58:43: Generecom.
00:58:44: also die bauen ne andere Hülle drum herum.
00:58:46: Also das Inleben ist, soweit ich es verstanden habe, genau das gleiche.
00:58:49: Es hat unverpackt.
00:58:50: Das ist so ein Deal, ne?
00:58:51: Das ist den Toyota Igo, den gab's ja auch von Citroen als C-Eiens oder so... ...das ist das Gleiche und irgendwie leicht anders verpackt, anderes Logo drauf.
00:59:00: Der ist nicht ganz so teuer.
00:59:02: da ist ein Business Case drin, den kann man sich einfach ausrechnen.
00:59:05: der tut auch ist ein bisschen langsam.
00:59:06: parallelisieren ist nicht gar zu gut aber dann kriegt man schon mal einen Fuß an die Erde.
00:59:10: Und wenn das nicht funktioniert, dann gibt es auch größere Grafikkarten.
00:59:13: RTX-Fünfzig neunzig mit zweiunddreißig Gigabyte, da brauchen wir wahrscheinlich mehrere oder dann RTX Pro sechstausend mit sechsneunzig Gigabyte und fünfzehntausend Euro.
00:59:24: Das ist nichts was man sich privat beschafft sondern da muss man schon ein bisschen Skate gut ausrechnen bis hin zu natürlich den ganzen Server.
00:59:32: Degen sind Servern, also die dann wirklich hunderttausend oder Millionen kosten, die man sich dahin steht.
00:59:37: Die dann noch höher schneller weitermachen.
00:59:39: Aber üblicherweise würde ich sagen erst mal so überhaupt klar kommen in dem Thema und dann vielleicht mal eine API konsumieren, die vielleicht in Deutschland steht.
00:59:50: der Schritt zur eigenen Hardware ist nicht unbedingt der erste Schritt den man dann macht.
00:59:56: Es sei denn wenn es in so einer kritischen Domäne drin wo man keine Chance hat, dann machen wir das natürlich.
01:00:00: im Marketing kann diese Arby dann helfen, Texte zu schreiben.
01:00:06: Mit Kundensupport kann sie helfen, E-Mail zu bearbeiten und gucken.
01:00:10: was habe ich da schon jemals für so ein ähnliches Problem gehabt?
01:00:13: Das hab' ich damals geantwortet.
01:00:16: In der Buchhaltung können Sie gucken sind alle Rechnungen da und kann nicht die vielleicht irgendwie aus den E-mail konnten noch zusammen sammeln.
01:00:25: in der Entwicklung, in der Produktion kann man irgendwie eine Lagerhaltung und Planung usw.. gibt es schon Unternehmen, die du gesehen hast.
01:00:36: Die eigentlich pre AI gegründet wurden aber die jetzt wirklich sagen wo du sagen kannst witzig die verdienen mit AI Services jetzt Geld weil sie irgendwas dazu gebaut haben dass ihr Produkt jetzt AI kann oder AI Services haben.
01:00:52: Hast du sowas gesehen?
01:00:53: Nein da ist mir ja keine Firma bekannt als die dann wirklich Geld damit verdient.
01:00:58: also ich kenne sehr viele Firmen.
01:01:00: ein paar davon sind doch meine Kunden, die jetzt in so einer Transformation sind.
01:01:04: Dass sie sich zumindest darauf einlassen, die KI so einzuführen, dass man damit intern die Produktivität steigern
01:01:11: kann.".
01:01:12: Ich habe aber bislang keine Firma erlebt, die den Pivot gemacht hat von wir machen... Wir stellen jetzt Autos her und jetzt sind wir auch bekannt dafür das wir LLMs trainieren oder zumindest Agenten deployn und so.
01:01:24: Das ist äußerst Satan!
01:01:27: Ist ja und sagen den Umständen geschuldet, sondern es ist so größere Unternehmen.
01:01:31: Die haben eine gewisse Trägheit.
01:01:32: Und wenn sich große Masse mit einer gewissen Träg- heit einfach vorwärts bewegt, ist schwierig darauf einzuwirken, dass da mal ... sich ein Stück bewegt.
01:01:39: Also ich war auch zwei Jahre bei Volkswagen.
01:01:41: Da ging's noch um andere Themen.
01:01:42: Da haben wir auch streckenweise gelitten als er zugucken mussten, dass sich das nicht bewegt .
01:01:47: Wir haben ja nur Software gemacht damals.
01:01:50: Also die Trägheite fällt einem da auf die Füße.
01:01:52: Nee, da fällt mir nichts ein!
01:01:53: Ich glaube jetzt habe erste Unternehmen gesehen, die Maschinen herstellen?
01:01:57: Und jetzt sagen, für unsere Maschinen kannst du das AI-Paket buchen und dann stellen wir noch ein paar Sensoren hin.
01:02:03: Dann sagen sie dir immer wieder das rechte Hinterrad oder wir glauben dass die Klappe vorne rechts hat so einen Klapperton, da solltest du schon was Ersatzteil bereitlegen?
01:02:13: Oder dass Sie auch sagen, wir haben gemerkt, was vorne rein geht, was hinten rauskommt... Wir glauben wenn du die Temperatur noch drei Grad runterdrehst könntest du weniger Ausschuss haben oder so was.
01:02:23: Also das sind jetzt die erste Sachen, die ich sehe und die sich erst mal cool anhören.
01:02:27: Und wo die Unternehmen halt wirklich sagen mit AI schaffen wir es jetzt mehr Umsatz zu machen, obwohl wir gar nicht mehr Maschinen verkaufen.
01:02:35: Das dauert aber... Also das kann ich ja... Ich kann etwas erzählen weil wir haben das veröffentlicht und bei Porsche habe ich gearbeitet.
01:02:44: da war das Thema genau das was du gerade gesagt hast.
01:02:46: also ich bin früher Renault Clio gefahren als ich noch jung war Und da hat man dann irgendwann gemerkt, so hat man das Gefühl, hier stimmt irgendwas nicht.
01:02:54: Es gefahren und irgendwas ist komisch!
01:02:56: Und nach ein paar Wochen hat man es dann gehört, dass dann irgendwie in der Lichtmaschine aufgrund von irgendeiner undichte Lager-Schaden entstanden sind, deshalb klingt das jetzt so komisch oder der Auspuffer rostet und kommt Löcher rein, dann klingt plötzlich der kleine Kliu wie ein Porsche.
01:03:11: Das schleicht sich langsam ein... Das fängt etwas an zu klappern, das ist ja dieses Predictive Maintenance.
01:03:16: Dass du nicht alle X-Monate prüfst sondern besonders wenn gerade was ist dass du dann mal ein Techniker vorbeischickst.
01:03:22: Das haben wir bei Porsche damals ausprobiert.
01:03:25: es ging darum der Maschine zuzuhören oder den Körperschalt zu messen also die Vibration um anhand dieser Signale festzustellen in welcher Form ist denn gerade?
01:03:34: Die ist diese Maschine Und unser Anwendungsfall war damals die Kaffeemaschine.
01:03:40: Das war ein Prototyp, den habe ich gebaut innerhalb von vier Stunden auf einer Fahrt Würzburg Berlin im ICE und dann haben wir noch ein paar Wochen gebraucht um Daten zu generieren.
01:03:48: also ganz einfach kleinster Computer Raspberry Pi hört der Kaffeemaschine zu und sagt nach ein paar Sekunden da kommt jetzt gerade ein Latte Macchiato raus oder da kommt irgendwie nur heißes Wasser für einen Tee raus oder ein reiner Kaffee.
01:04:00: das klingt halt unterschiedlich.
01:04:02: Und das hat Porsche später gezeigt, da ist ein Produkt rausgeworden.
01:04:05: Wenn man das nimmt und man tauscht in Anführungszeichen nur die Daten aus dann kann man das auf jede Produktionsmaschine hochheben.
01:04:12: Da haben wir gelernt es ist relativ schwierig, da ein Produkt zu machen weil es muss ja auch durch die ganzen Compliance Abteilungen usw.
01:04:19: Also ein Prototyp ist wirklich schnell gebaut aber aufgrund von Regulierungen drum herum kann es sein dass es da noch zur Verzögerung kommt.
01:04:27: Das hat nichts damit zu tun ein bisschen das Vertrauen in KI erhöhen muss.
01:04:33: oder man muss die Leute aufklären was KI kann und vor allen Dingen, was KI nicht kann.
01:04:37: Da haben wir damals bei Porsche um zwei tausend sechzehn-sehnten Rumpioniers Arbeit gemacht.
01:04:41: Die waren ja damals komplett blank und dank unserer Arbeit haben sie das Thema zumindest ein bisschen mehr verstanden.
01:04:47: Und ich würde jetzt mal sagen wer heute also ist auch herausfordernd gesagt.
01:04:51: Also wer heute noch nicht einmal den Chat aufhatte wie es vorher gesagt habe eigentlich möchte schon Agenten benutzen dann wird es jetzt allerhöchste Eisenbahnen dass man da mal losrennt.
01:04:59: Gibt es was zum Thema AI aus deiner Arbeit?
01:05:03: Was du so liest, wo du sagst.
01:05:05: Witzig!
01:05:06: Dich fasziniert das so und du glaubst da steckt zu viel dahinter.
01:05:08: aber's wird noch viel zu wenig darüber geredet.
01:05:10: Was ist noch dass das eine oder die ein zwei Themen... ...die du spannend findest über die gar nicht soviel nachgedacht wird bisher oder die von der Nichtsuch diskutiert werden?
01:05:21: Es wird nicht mehr diskutiert und zwar auch nur ganz kurz.
01:05:25: Musikgenerierung Das ist so ein bisschen mein Steckenpferd, ich bin auch ein bisschen Künstler und hab das lange und intensiv gemacht.
01:05:31: Und mache das immer noch nebenbei wird ein bisschen vernachlässigt weil wir sind zwar als Spezies hochgradig musikalisch aber es bedeutet nicht also wie können wahrscheinlich im Takt gar ja Sturzflug mitklatschen, ein bisschen singen können wir auch die meisten zumindest.
01:05:50: Aber dass Leute dann in die Musikproduktion reingehen, das ist äußer selten!
01:05:53: Das ist ja nur eine klitzeklare Handgruppe, die das macht.
01:05:56: Und wir haben in den letzten Jahren sehr viel gehört von KI-generierte Musik und das Problem, KI- generierte Musik überhaupt zu machen ist ja gelöst.
01:06:04: Das hat ja Suno irgendwann gemacht und Udyo hat es auch gemacht.
01:06:07: Und seitdem ist es eigentlich gern gegeben dass man sich nur noch damit auseinandersetzt, dass die Musik jetzt irgendwie markiert, dass dann der KI mit an Bord gewesen ist.
01:06:17: Aber das ist irgendwie so gewesen, das kam einfach mal wurde dann gelöst Und seitdem ist es da wieder bis auf ab und zu, ist die G-Mama wieder in den Nachrichten.
01:06:25: Ist das eigentlich leise geworden?
01:06:27: Also das fand ich ein bisschen schade.
01:06:29: Es gibt aber was... Das kommt jetzt hoch und zwar dass auch Teile von Hollywood die Filmgenerierungen langsam so ein bisschen in den Arm nehmen im Sinne von okay, das ist etwas, das müssen wir uns mal genauer angucken.
01:06:39: also ich rechne fest damit mit den Möglichkeiten, die wir jetzt haben.
01:06:42: Also merkt ich gehe so ein bisschen durch die modalitäten durch, also Text können wir abhaken mit den LLMs.
01:06:47: Da ist ja sehr viel passiert inklusive programmieren.
01:06:49: Musik wurde einfach so in Anführungszeichen nebenbei gemacht was jetzt wahrscheinlich demnächst möglich ist mit der sehr hohen Qualität.
01:06:56: einfach so hundertzwanzig Minuten filmen generieren zwar nicht aus einem prompt auf hundert zwanzig minuten Filmen sondern da wird man auch wahrscheinlich viel mit Storyboards arbeiten also Agenten einsetzen mit denen man dann gemeinsam storyboard baut die Geschichte erst mal aufschreibt, dann Bilder dazu hat und dann Konzeptart machen.
01:07:11: Du musst ja auch erstmal festlegen wie die Charaktere aussehen links rechts oben unten und an was deren Eigenschaften sind und daraus in dem Storyboard diese einzelnen Szenen als Standbilder machen und die dann animieren.
01:07:22: also ich fünfmal die Szene rendern und dann die vierte rausnehmen weil sie halt gut ist und die zusammen schneiden alles im Zusammenschwimmen AKI.
01:07:30: Und da ist grad so ein bisschen mein Auge drauf, dass ich davon ausgehe das könnte jetzt sehr schamant werden Vorhin erwähnt jetzt ist es halt soweit, dass man die Modelle mit sehr hoher Qualität auf sehr kleine Hardware zu Hause laufen lassen kann.
01:07:44: Spannend!
01:07:45: Die AI-generierte Musik, wenn ich das Gefühl habe... Das war AI generiert, verliere ich großen Spaß daran.
01:07:52: Ich kann AI in der Musik.
01:07:54: für mich finde ich es irgendwie nur gut, wenn nicht sage ich mir ab hier den Laden MP III hoch, gib mir mal nur die Gitarrenstrecke runter oder gib mir einmal nur den Gesang und dann kann ich daneben schlecht Gitarre spielen.
01:08:04: aber sobald ich irgendwie das Gefühl da hat jemand mit einem Prompt Musik gemacht, weil ich sofort das Interesse.
01:08:13: Da gibt es unter den KI-Musikern ein paar Hebeln, an denen man so ein bisschen ziehen kann um dafür zu sorgen dass der Rezipient positiv der Musik gegenübersteht.
01:08:25: und die erste Regel ist nicht, dass KI generiert ist Na weil, gehen Bayers es an und so weiter.
01:08:31: Dann hört man plötzlich Sachen die auch nicht da sind.
01:08:32: Das ist sehr tiefenpsychologisch, das haben wir auch ein paar Leute schon intensiv erforscht.
01:08:38: Da spielt aber noch eine andere Herausforderung mit Reihen.
01:08:41: Wie heißt der denn?
01:08:42: Sven Feth ist dieser Techno-Detail glaube ich.
01:08:45: Der
01:08:45: Techno Detail aus den Ninete Jahren?
01:08:46: ne?
01:08:46: Genau genau, der ist glaube ich noch aktiv Und er hat mal von einer Weile gesagt dass jetzt eigentlich komplett anders ist.
01:08:51: Früher bist du auf so einen Konzert gegangen und dann abzucherten Und es ist schon eine Weile so und das hat mit KI noch gar nichts zu tun, dass die Leute eigentlich nur da sind um Selfies zu machen.
01:09:03: Das ist ein Symposium.
01:09:04: Es ist auch dementsprechend ein bisschen heller beleuchtet.
01:09:05: also früher war's in irgendeiner Beton-Lagerhalle mit ganz dunkler Licht und das Wasser lief irgendwo runter.
01:09:11: und heute sind diese Technoveranstaltungen so wie hat er zumindest gesagt?
01:09:14: Wie soll ein Rockkonzert gut ausgeleuchtet, sodass sie Leute halt gute Selfies machen können?
01:09:18: oder wer hört denn doch ein Album vom Anfang bis zum Ende?
01:09:21: Und das ist, ich glaub auch was bei Spotify.
01:09:25: Die haben das, glaub ich mal veröffentlicht ... Wenn man so reinguckt wie Nutzen Leute eigentlich Spotify?
01:09:30: Dann kommt man da zum Schluss, ja, Spotify ist so ein Hub.
01:09:35: Da bekommt man auf Knopfdruck Musik und die Leute, die diese Musik hören, haben diese Musik nur an um andere Geräusche auszublenden während der Arbeit.
01:09:45: Da geht's nicht darum, eine Musikerfahrung zu haben sondern nur um was auszublenden.
01:09:49: Und da kann man ja durchaus verstehen, wenn... Also ist ja eine ganz einfache Rechnung für Spotify.
01:09:53: Wenn die halt schauen, okay, die Leute benutzen das nicht nur zum Ablenken aber weil die Leute das hören müssen wir dem Plattenlabel irgendwie Geld überweisen.
01:10:03: also nicht der dem Künstler, weil der Künster ist ja unterm Plattenlabel er kriegt eigentlich gar nichts Das ist ja nur das Label.
01:10:09: Aber das Geld könnten wir ja doch sparen, wenn wir in der KI haben die auf Knopfdruck harte Techno generiert und das ist halt wie gesagt Rechnung, die geht halt für die auf und es ist aber ein kulturelles Problem was durch KI wahrscheinlich nun noch beschleunigt wird.
01:10:25: also wenn man auch vor KI mal was Spotify reingeguckt hat da wusste man da kriegst du keinen Fuß an die Erde Da ist so viel drin Kein Chance.
01:10:32: Und Spotify hat dann den Vorteil dass sie selbst über Teaserflächen und Nudging im UX steuern können.
01:10:38: Ich probiere mal diese Focus on Work Playlist aus, dann kriege ich gar nicht mit was sich da anmache sozusagen.
01:10:43: Und die sparen sich dann am besten Fall weil es irgendwie ihre eigene A-Eigenerite Sound sind.
01:10:48: Können sie vielleicht Geld sparen?
01:10:49: Ja interessant!
01:10:50: Die Menschen haben die Musik so ein bisschen nicht so aufgegeben, die ist immer noch da aber die haben den Fokus komplett verschoben.
01:10:59: Seit Napster hast du eigentlich als Musiker nicht mehr über Verkäufe irgendwie Geld generiert.
01:11:05: Auch so, da gab es halt diese Kriterien ab wie wir verkaufen kriegst ein goldenes Schaltblatt.
01:11:08: ich glaube das hat uns dann runter gedreht.
01:11:10: Weil man kauft ja keiner mehr sondern als Künstler verdient ihr halt Geld damit über Konzertkarten die du verkaufst und dann wahrscheinlich zum großen Teil die T-Shirts die du dabei verkaufest.
01:11:19: aber in der Musik geht's nicht und das finde ich unglaublich schade.
01:11:23: Christian vielen vielen Dank für diese tiefen vielen Einblicke.
01:11:27: ich folge dir auf Link den unheimlich gerne.
01:11:29: Das würde ich jetzt auch jedem empfehlen, da mal reinzuschauen.
01:11:31: Ich habe jetzt auch verstanden was du machst womit du dein Geld verdienst?
01:11:36: Warum du alleine arbeitest und nicht in Teams arbeiten möchtest?
01:11:41: Ganz herzlichen Dank dass du uns mitgenommen hast auf eine Reise durch deine AI-Welt.
01:11:47: Danke schön!
01:11:47: Hab mir sehr viel Spaß gemacht
01:11:49: Euch zu Hause.
01:11:50: vielen Dank fürs Zuhören.
01:11:50: das war unsere Insight Talk Folge für diesen Monat August, im letzten Freitag im Monat machen wir so ein Insight Talk.
01:11:58: Ansonsten sind wir jeden Montag mit einer neuen Folge dabei.
01:12:03: Da stellen wir Unternehmen vor, stellen wir Personen vor, stellten wir Geschäftsmodelle vor und heute haben wir über das Thema AI und Sovereign-AI gesprochen.
01:12:12: Ich wünsche euch eine tolle Woche!
01:12:13: Ich hoffe da war was für euch mit dabei und freue mich wenn ihr nächstes Mal wieder dabei seid.
01:12:16: bis dahin ganz liebe digitale Grüße von Tristan
01:12:20: Behrens
01:12:20: und Christoph Bursack.
01:12:21: Bis bald, ciao.
Neuer Kommentar