Wissengraphen mit Tobias Rebert von Tentris #102

0:02 Moin, so einfach komplex. Heute mach ich das mal. Der Burkhard Ich hab hier wie immer dabei den Gerrit der das eigentlich Anmoderiert. Hallo Gerrit, Hallo Burkhard und wir haben heute wunderbaren Gast dabei den Tobias Hallo Tobias. Moin zusammen. Ja, sehr schön. Moin, ist gut. Ja, wir sprechen heute über Ontologien, also alle die jetzt nicht genau zugehört hat, nicht über Ornithologie, das ist das mit den mit den zwitschernden Kollegen im im im Wald und so weiter, sondern wir sprechen über Ontologien, das ist was anderes, was es genau ist.

0:28 Werdet ihr wissen, wenn ihr diese Folge bis zum Ende gehört habt. Es ist super spannend, es ist n eigentlich n Thema, was es schon ziemlich lange gibt und was auch kennt nicht jeder und ist auch n bisschen komplex, selbst wenn man Software entwickelt ist es aber hochrelevant, das kann ich schon mal so so sagen, es hat nämlich was mit KI zu tun und zwar mit den letzten neuesten Entwicklungen von KI, insofern bleibt dran ist spannend und ich geb jetzt erstmal das Wort weiter, ich hab genug geredet mit Moderation und so weiter bin ich gar nicht so gut drin eigentlich.

0:57 An Tobias. Hallo Tobias, schön, dass du da bist. Du bist der Experte für nicht Ornithologie vielleicht doch, aber Ontologie erzähl erst mal kurz, wer du bist und warum du das weißt und dann starten wir richtig rein. Ja, vielen Lieben Dank für für die Einladung. Burkhard Gerrit, Freu mich hier zu sein heute und euch mit euch n bisschen über Wissensgrafen Ornithologie ich meinte natürlich Ontologie und Co.

1:18 Zu sprechen, ich bin einer der Gründer von Tetris, wir sind nen Startup aus dem schönen Raum rossisphalen Lippe. Wir bauen ne Graph Datenbank, vielleicht kommen wir auch noch dazu, dann wird es noch komplexer und ja, wir sind jetzt quasi dabei das Feld von hinten aufzurollen und es in die Infrastruktur für die datengetriebene Welt von Morgen zu bauen. Sehr schick, sehr schick, sehr schick. Ich glaube wir müssen erstmal anfangen, ganz grundsätzlich unseren Zuhörern und Zuhörerinnen zu erklären, was verbirgt sich hinter dem Wort Wissens Graphen. Und überhaupt vielleicht noch mal kurz Graphen erklären und vor allen Dingen dem dem Ding Ontologie und Semantik und so weiter ich glaub du kannst uns

1:58 da mal reinführen ich hätte n kleinen Wunsch, wenn wenn du es machst. Vielleicht kannst du es n bisschen, ich glaube viele von unseren Zuhörern Zuhörern haben vielleicht schon mal was von Datenbanken und SQL gehört und von Tabellen und Relationen und und und so weiter und Assoziationen, vielleicht können wir ja bei dem erklären so n bisschen einmal immer schielen, wie ist das in der normalen relationalen Tabellenwelt? Und was ist quasi anders in der Ontologie Welt? Weil wir es geht doch, so viel darf ich verraten, darum, wie wir Daten abspeichern, aber besser, sodass wir auch, wie soll ich sagen, schnellere, andersartige Semantischere suchen, nachher machen können?

2:36 Ja, vielleicht magst du uns aber erst mal so ganz grob erst mal aufgleisen was ist da los, ja? Ja, voll gerne. Ich will vielleicht so n bisschen mit der Geschichte anfangen, wenn das für euch OK ist. Wo kommen wir überhaupt her, aber wie hat das Ganze gestartet, weil das Ganze wie du schon meintest vorhin ist eben nicht quasi in den letzten 23 Jahren entstanden, sondern hat Anfang, Ende der 90er mit Tim Berner Leave vielleicht den ein der ein oder andere kennt ihn noch, der Creator des Web begonnen, weil er sagte so Hey, das Web soll nicht nur für Menschen lesbar sein, sondern auch für Maschinen verstehbar.

3:08 Weil zu dem Zeitpunkt hatten wir ganz, ganz viel Text und HTML und wenn du das ne Maschine gegeben hast, dann hatte die keine Chance das zu verstehen. So ne also als Beispiel Berlin ist die Hauptstadt von Deutschland, das war für Menschen klar, aber für Maschinen war das nur Text und die haben das nicht in ins Verhältnis in der Relation setzen können. Häufig war die Vision des Semantic Webs deswegen auch Semantics.

3:28 Zu verstehen oder Maschinen verständig etwas zu erklären, was Menschen auch verstehen können, zum Beispiel Fragen beantworten wie, was ist ein Ding, also zum Beispiel Personenort oder auch welche Beziehung besteht zwischen diesen Personen, zwischen diesen Orten und was folgt logisch daraus, also letztlich das Ziel, ne automatische Schlussfolgerung über Wissen im Web, was davon übrig geblieben ist, ist tatsächlich nicht viel, weil sich das nicht wirklich durchgesetzt hat, aber das sind tatsächlich die Wissensgraphen oder die neue Straphs, die quasi das überlebende Erbe so kleben, oder? Framemess viele des Semantic Webs tatsächlich sind, und da kommen wir so n bisschen her und Wissensgraphen sind nichts anderes als eine strukturierte

4:05 Präsentation von wissen. Wissensgraphen könnt ihr euch so vorstellen wie eine riesengroße netzwerkartige Struktur, wie ne Mindmap, wir Deutschen lieben Mindmaps und wir lieben Knoten und Kanten, und je größer diese Mindmap, desto besser ist natürlich auch die Struktur und je besser kann man Beziehungen miteinander vernetzen und wenn wir das mal plakativ an einem Beispiel nehmen. Du wolltest.

4:26 Du hattest vorhin so n bisschen auf relationale Datenbanken angespielt. Ich nehm dann ganz gerne immer so das Beispiel von einer Excel Tabelle. Eine Excel Tabelle ist quasi das Frontend einer relationalen Datenbank, das kennt jeder, aber jeder kennt auch das Problem, wenn man zigtausend spreadsheets hat oder 10 Spreadsheets, dann wird das ganze relativ schwierig, schwierig unterschiedliche Beziehungen miteinander zu matchen um dann zu einer Antwort zu kommen und irgendwann sagt der Mensch boah ich hab da keinen Bock mehr drauf das ganze Miteinander zu vernetzen, also zu joinen. Und genau das Gleiche ist natürlich auch bei Maschinen, weil die dann irgendwann so viel im Zwischenspeicher, also Sorry im Arbeitsspeicher haben, dass

5:01 die n Timeout haben und aus dem Grund wurden eben Wissensgraphen entwickelt beziehungsweise Wissensgraphen haben sich da durchgesetzt, weil du eben sehr sehr schnell Relation miteinander vernetzen kannst. Und so siehst das quasi dann auch in so werden dann quasi aus Tabellen Beziehungen zwischen den einzelnen Knoten, zwischen den einzelnen Datenpunkten.

5:20 OK, also ich ich stopp dich mal kurz ein. Ich versuch mal zu repetieren. In der klassischen Welt der relationalen Datenbanken können wir natürlich Relationen aufbauen, machen das so mit mit, mit Foreign Key, so irgendwie weiß ich nicht, ein was weiß ich, der Professor hat mehrere Studenten oder Studentinnen und so weiter dann hab ich solche Beziehungen, aber die sind ja eigentlich, na ja, unwissend sag ich mal. Ja, also das sind einfach fest definierte Dinger, da weiß jetzt die Maschine noch nicht, ja es weiß, es gibt diese Studenten, aber wenn zum Beispiel.

5:52 Falls zum Beispiel nicht, dass das alles Personen sind, ja vielleicht, dass der Professor ist ne Person, ne ständ ist ne Person und so weiter und wenn ich jetzt zum Beispiel fragen will, wer sind denn alles Personen und so weiter dann fang ich an immer mehr Joints aufzubauen und du sagst, diese semantischen Wissensgraphen sind besonders dann mächtig, wenn ich hoch vernetzte assoziierte Informationen habe und die performant raussuchen will. Das ist jetzt was technisches, erstmal was du auch gesagt hast. Und tatsächlich ist glaub ich so auch von der Algorithmik, die die Datenbanken sterben irgendwann mal das das weiß jeder der das schon mal so n bisschen gemacht wenn man ne riesen Datenbank hat und hat zu

6:24 viele Joints in einer Anfrage. Joints sind ja quasi das Auflesen der Assoziation. Ja wo ich sage ich gib mir noch das und auch das und der Tabelle guckst du noch das aus mit der Order und so dann fangen die an zu schützen die Datenbanken das mögen die nicht so gerne ja also irgendwann ist der Feierabend.

6:37 Ja, also jeder kennt das eigentlich. Also wenn ich zum Beispiel als Business Sky, kenn ich das, wenn auf einmal mein PC langsam wird. So jeder kennt dieses Ding, dass der Arbeitsspeicher aus auf einmal nicht mehr funktioniert, weil man einfach zu viele Applications auf hat und das ist so das ganz klassische Beispiel, wo dann eben du n Timeout hast.

6:54 Und das kannst du eben. Je besser die Daten man im Hintergrunddaten abrufen kann, desto weniger Arbeitsspeicher benötigst du natürlich auch, weil die weil die Prozesszeit verkürzt wird. Und je komplexer die Anfrage, desto mehr Joints musst du natürlich machen und desto uncharmanter wird es, eine relationale Datenbank zu benutzen, weil du eben zig Join zwischen den einzelnen Tabellen spreadets oder beziehungsweise indexen sendest, dann quasi tief im Backend nutzen nutzen musst. Und das hast du eben mit einer Graph Datenbank nicht, weil du eben schön durch die einzelne Netzwerkstruktur gehen kannst. Umso schneller die Daten eben miteinander zu vernetzen beziehungsweise auch abzufragen.

7:29 Ich will einmal kurz fragen und ob ich das jetzt richtig gehört habe, dass oder ob man sagen könnte, je einfacher die Abfragen sind, desto mehr Sinn macht es vielleicht auch ne relationale Datenbank zu benutzen. Und je komplexer meine Abfragen sind oder so komplexe der Use Case Abfrage Use Case ist, desto eher tendier ich vielleicht dazu n Wissensgraph einzusetzen. Absolut.

7:47 Also 100% ne, also ne ne relationale Datenbank ist für Struktur gebaut um einfache Abfragen transaktionalen Workload schnell und einfach durchzuführen. Da wird ne Graph Datenbank niemals besser sein ne also es gibt für jede Datenbank, für jede Applikation gibt es bestimmte Sweet Spots oder Optimierungen bei einer relationalen Datenbank ist es die Struktur, ist es der transaktionale Workload bei No SQL zum Beispiel Mongo de B und Co ist es die Skalierbarkeit. Wir umgeben bei es bei Vector DBS, also Vector Datenbanken. Die Ähnlichkeit ist bei Graph Datenbanken sind es die Beziehung, die keine dieser 3 eben abbilden kann, also das tiefgehende Verständnis von Beziehungen zwischen den einzelnen Datenpunkten.

8:28 Ja, genau das ist ja so ne unterliegende Wahrheit. Immer noch ne. Also es gibt halt in der Software und es ist glaub ich einfach n logisches mathematisches nachweisbares Problem wahrscheinlich wir haben verschiedene Use Cases und es gibt nicht die Silver Bullet. Wie man so schön sagt, die eine Lösung, die es alles erschlägt und alles Tip top macht, sondern wir müssen halt verschiedene Algorithmen, verschiedene Mathematiken, verschiedene Ansätze wählen um das Problem, dass wir gerade unterm Finger haben, optimal zu erschlagen. Ja und optimal von vom Ergebnis her und optimal vor allen Dingen auch von der Laufzeit her, von der Performance auf, ja wir sprechen heutzutage, wenn wir irgendwas Relevantes machen immer im Notfall über sehr viele

9:06 Daten und dann ist algorithmische Performance auch ein Thema. Vielleicht da noch ein ein Punkt, so dass, weil da viele verstehen, gar. Also wir haben da immer so häufig diesen Punkt, wenn man von analytischer Query spricht oder so, dann denken meistens alle, Boah, das sind irgendwelche total lange Linien, total komplexe Abfragen, aber es kann tatsächlich schon so ne einfache Abfrage sein, die gibt mir mal den Krankheitsstandpunkt von der Sales und Marketing Unit in meinem Unternehmen y.

9:30 Das ist schon ne Komplexe Anfrage, die viele gar nicht performen müssen können und dann manuell quasi in die Daten reingehen müssen, um das Step für Step abzufragen. Und das wär zum Beispiel so ne ganz klassische Anfrage für ne Graph Datenbank, die du nicht mit einer SQL oder mit einer Mongo DB oder wie auch immer Vektordatenbank performen kannst. Mhm, wir haben noch nie ne Folge über Graphen algorithmik gemacht, das müsste man eigentlich auch mal machen. Die haben nämlich ganz besondere Eigenschaften und so weiter ich ich sag da nur mal, ich sag mal 23 Wörter dazu, dass man sich das vorstellen kann.

10:00 Was ist überhaupt Graph Datenbank? Du hast schon mal gesagt, es gibt Knoten und Kanten und so weiter erschlägt mich bitte nicht, wenn ich jetzt nicht die perfekte Definition von Graphen algorithmik in aber das Wichtigste sind tatsächlich Knoten und Kanten, das ist eigentlich was n Graph ausmacht, Knoten ist quasi der Runde der Runde Kreis und dann hab dann mach ich ne Linie die nennt sich Kante im im in der Informatik bis zum nächsten Kreis ja.

10:22 Und jetzt kann ich n Graph und es gibt diese vorwart Graph algorithms, das heißt ich beweg mich quasi in einer Richtung, ich geh halt nicht wieder zurück oder sowas, aber ich beweg mich halt von einem von einem Kreis über ne Kante zum nächsten Kreis. Jetzt ist aber so bei Graphen, Kreise können halt ganz viele Kanten haben, ganz viele Linien zu anderen Kreisen und so weiter und im Notfall auch Zirkularitäten und so weiter und sofort und ich kann halt abbiegen und dann dann kann man sich schon vorstellen wenn man jetzt viele Kreise und viele Linien zeichnet, dann kann man viele Beziehungen. Ausdrücken und ich kann euch durch vielleicht gleichzeitig sogar durch viele Wege durch diesen Graph gehen und so weiter ja, bringt mich jetzt dazu, dass

10:56 du mir noch mal erklärst, Tobias, was ist nämlich da gibt es ja das Wort triplet oder sowas ja triplets und so weiter das ist ja das, das bin noch so im Studium hängen geblieben, das ist ja sowas was die die die Ontologie, was ja eher die Ontologie ist, ja eher das Schema, sag ich mal die Beschreibung während der Wissenskraft, das Schema, die Beschreibung, die möglich ist mit einer Instanz von Daten ausfüllt sag ich mal, ist gerade n bisschen technisch so, aber.

11:19 Wir wollen das ruhig mal n bisschen ordentlich hier auf die auf die Tonspur bringen. Und warum funktioniert Ontologie anders als jetzt ne SQL Datenbank? Ich glaube es ist das unterliegendste Ding ist, dass wir nämlich nicht Tabellen haben, sondern wir haben immer so ne Art Triple von Informationen, vielleicht kannst du das noch mal irgendwie auf die Tonspur bringen.

11:36 Ja, also im Bereich der Wissensgraphen gibt muss man 2 Wissensgraphen unterscheiden, der auf der einen Seite hast du Wissensgraphen die eine keine Ontologie haben, also kein Schema on top. Und es gibt auf der anderen Seite wissensgraphen, die haben einen Scemer und da würde ich dir gerne das Beispiel einmal geben im vom Auto, dass man sich das so n bisschen plakativer vorstellen kann und ich würde mit der Ontologie mal beginnen, was überhaupt die Ontologie ist.

12:01 Du hast schon richtig gesagt, die Ontologie legt Dinge fest wie sie heißen und wie sie zusammenhängen, also ganz plakativ. Auto ist ein Fahrzeug hat nen Motor, motor ist kein Fahrzeug, also man kann auch Regeln festlegen Elektroauto ist ein Auto, ein Auto hat genau einen Motor. Ne, damit macht man schon mal klar, was ist erlaubt, was ist Unsinn, was gehört zusammen und so kann man eine formale Logik, eine formale Semantik, das ist die Semantik, dann erklären und so auch skalieren, weil man dann eine Semantik festgelegt hat, die übergeordnet in der kompletten im kompletten Unternehmen genutzt wird, und dann kann man darauf basierend natürlich ein Wissensgraph in diese Ontologie oder in das GEMA Hineinsetzen und zum Beispiel

12:42 sagen, ein Auto Auto a hat motor m 1. Also Objekt, Prädikat, Subjekt, Auto. 1 Subjekt hat einen, das ist quasi die Verbindung oder das Prädikat Objekt Motor a 1 und so kann man das ganze komplett skalieren und unendlich und man hat immer ne formale Semantik und du kannst dann super auch Unklarheiten oder auch Fehleranalysen, Predictive Maintenance und Co. Sehr sehr einfach eben vonstattenfahren, weil alles miteinander verlinkt ist und die formale Semantik eben erlaubt, ganz klar herauszufinden was möglich ist, was erlaubt ist, was nicht erlaubt ist und wo vielleicht sogar. Ein Fehler entdeckt werden könnte, wo ich selber als Mensch das nicht gesehen hab.

13:20 Ja, voll gut. Ja, also jeder Distelfink ist ein Vogel, aber nicht jeder Vogel ist ein Distelfink. Ja, um mir noch mal die Kognitologie Omnithologie ins Spiel zu, klingt für mich auch so ein bisschen nach OOP, also objektorientierter Programmierung, da haben wir auch oft solche Beschreibungen von.

13:36 Hat also beim beim Komponieren quasi ne. Die Klasse hat eine andere Instanz oder die Klasse ist vom Typ einer anderen Klasse und so weiter wahrscheinlich hat das auch, also wenn man da drüber nachdenkt und so weiter findet man wahrscheinlich Analogien auch zu anderen Bereichen sag ich mal ja. Die ähnlichste Analogie, die wir am meisten verwenden, ist tatsächlich die Taxonomie im SQL Bereich, wo du eben immer nur ist Relation hast und das Macht das eben nicht skalierbar und nicht semantisch logisch, wohingegen du mit einer Ontologie.

14:04 Eben unterschiedliche Relationen auch einfach abbilden kannst. Ne hat gebaut, Lebbei gehört zu und so kann man das eben super schön semantisch skalieren. Die sind die frei wählbar, diese Beziehung untereinander. Also du hast jetzt n paar Beispiele gemacht, Lebbei gehört zu. Die sind tatsächlich frei wählbar, aber wenn sie einmal definiert sind, dann sind sie definiert.

14:24 Und das ist auch das Wichtige, weil so ein Skemer vielleicht einige von euch sind mit n bisschen mit SQL unterwegs und Co. Da ist das Skemer sehr sehr schwer anpassbar. Du musst quasi immer wieder ein neues Skemer aufsetzen, wenn dein Case zu Ende ist. Im Wissenskraftbereich beziehungsweise in Ontologie.

14:42 Die ist flexibel. Bedeutet du kannst einfach ne neue klasse hinzufügen oder neue property hinzufügen, ohne dass du dein Scemer verändern musst. Und das ist eben ne unfassbare Power und ne Flexibilität, die du in keinem anderen Modell hast. Und das macht Wissensgraphen sehr sehr flexibel. Und wenn du eben einmal die Klasse definiert hast, dann guckst du eben so als als Developer zum Beispiel leb bei, gibt es schon, OK cool, dann kann ich die weiter benutzen, gibt es das doch nicht.

15:08 OK, muss ich die einführen, aber dann kann immer jemand danach gucken, tatsächlich. Und wenn du eine sehr, sehr ähnliche Relation zueinander hast, dann wird es quasi auch im Wissenskraft angezeigt. Mhm, ich hab auch noch mehr naive Fragen. Ja, ich hätte jetzt, ich hätte jetzt noch ne Ergänzung zu dem ist das definiert und so weiter hat sie ja gefragt. Gerrit Ich wenn ich mich richtig an meinen Informatikunterricht, der jetzt sehr lange her ist, erinnere, dann war es glaub ich damals schon so, dass es im W 3 C Standard irgendwie. Quasi auch Definitionen gibt zu der Semantik und so weiter kannst du da noch n Wörtchen verlieren? Tobi ist das richtig, wird das richtig in Erinnerung? Ja, es ist absolut richtig, ne.

15:43 Also das World Wide Webkonsortion wurde Anfang der Zweitausender hat sich damit beschäftigt quasi diese ganzen Standards zu entwickeln, festzusetzen, zu definieren und das ist auch eine große Stärke tatsächlich von dem Wissensgraphen es gibt zum Beispiel ADF, das sind die Daten als Triple, so nennt sich das Resource Description Framework, Subjekt, Prädikat, Objekt, das ist das Datenmodell.

16:04 Dann hast du da on top, nennt sich Auel oder ADFS. Das sind die Ontologien und Logiken. Also Auel ist die Ontologie, ADFS ist die Logik, also man kann zum Beispiel auch aus einem Wissensgraph, bedingt durch das definierte Vokabular, implizites Wissen aus dem expliziten Wissen ziehen, das ist super spannend zum Beispiel, man könnte zum Beispiel feststellen, dass dadurch bedingt, dass Gerrit und Burkhard Menschen sind. Und auch zu dem beim Individuum und ihr mit mir verlinkt seid, wenn die passende Proportion ist. Dass zum Beispiel ich auch ein Mensch bin, wenn es eben passend im Wissenskraft abgebildet ist.

16:37 Und so kannst du eben super viel influence auch betreiben, was du mit anderen Datenmodellen nicht tatsächlich tun kannst. Und der letzte Punkt klar ist. Barclays die Abfragesprache. Aber was man auch dazu sagen muss, das ist das. Immer, dass sie es ja noch mal langsam sagen. Die Abfragesprache bei unserem relationalen Datenbank ist Sequel, so spricht man es SQL geschrieben Ja Structured Query Language und jetzt hast du gesagt, die Abfragesprache ist sparkul ja wird Sparkle wird es ausgesprochen oder benutz ich nicht jeden Tag? Immer unterschiedlich, wenn es schnell von der Lippe gehen soll.

17:10 Sagst du Sparkle, wenn du es richtig sagen willst, sagst du Spark UR. Und wofür steht das? Weißt du das zufällig, die die Abkürzung? Ich weiß immer nur sagen Query Language, aber Spa weiß ich auch nicht. OK, das können unsere Zuhörer und Zuhörerinnen dann selber nachgucken, wo der Gerrit macht, das vielleicht hier nebenbei mal gucken hab.

17:25 Ich auch was zu tun, ja. Sorry, prima Gerrit, aber du hattest noch was. Du hattest noch was. Ja, und zwar hab ich ja jetzt das Bild im Kopf. Von relationalen Datenbanken ist irgendwie zweidimensional, ne, ich hol immer Tabellen, es gibt Spalten und Reihen und dann gibt es aber ganz viele Tabellen und die sind in einer ist Beziehung zueinander ne so. Kann man das ja mal sagen.

17:48 Ich hab ja in der Vorbereitung auch mal Knowledge Graph und Wissensgraph eingegangen und so und da können wir mal so 3 d mäßige Konstrukte, ne wie ihr das ja auch gesagt habt, es gibt die es gibt die Punkte und die Verbindung, also die die Knoten und die Kanten und die können ja nicht nur in 2 Dimensionen gehen, die Kanten, die können ja auch in ne dritte Dimension gehen, nach vorne, nach hinten, sonst wohin in alle Richtungen und kann man sich das in irgendeiner Form noch angucken so n so Knowledge Graph, also so wie man auch auf ne Excel Tabelle drauf gucken kann. Tatsächlich?

18:16 Ja, das ist das coole, und das war auch die Vision ursprünglich, dass es eben für Menschen und Maschinen gleichmäßig lesbar ist. Du kannst dir das so vorstellen, wenn du eine sparkual Abfrage an das System schießt, dann kriegst du einerseits nen datenoutput, du hast ne Anfrage gestellt, wenn Hey, sag mir die Hauptstadt von von Deutschland und dann hast du Berlin bekommen, aber dann kriegst du quasi kannst du dir auch die. Den Teilgraph, der für die Antwort benutzt wurde, visualisieren lassen, um genau zu sehen, hey welcher Teilgraph wurde denn dafür benutzt?

18:48 Passt das denn überhaupt oder hab ich sogar vielleicht ne coole Zeitinformation, die ich noch aus diesem Graph selber herausziehen kann und das ist eben auch n unfassbarer Vorteil und gibt dir ne Erklärbarkeit, die dir kein anderes Datenmodell geben kann und deswegen geht es zum Beispiel auch gerade wenn es Richtung AIKI Thematiken geht und co.

19:05 Immer mehr auf Wissensgraphen gesetzt, weil die Vektordatenbanken. Selber dir eben diese Erklärbarkeit gar nicht liefern können, aber eben der der Wissenskraft, weil du ihr das Datenmodell eben visualisieren kannst. Und das ist total wichtig. Tobi, jetzt nimmst du schon das Geheimnis vorweg. Worüber sprechen wollten? Genau, aber also da, da setzen wir uns gleich noch mal richtig tief rein in die das find ich nämlich super spannend was das mit KI, warum das für die KI total relevant ist. Das müssen wir noch mal n bisschen ausbreiten, aber lass uns vorher noch mal kurz alle Themen abschließen, dass wir gutes Verständnis haben was wissensgraphen. Und Semantik und Ontologie und so weiter sind. Ich glaube, wir haben es auch

19:39 schon n bisschen, aber vielleicht hat Gerrit noch ne Frage oder du noch ne Anmerkung bevor wir dann in die bevor wir dann tatsächlich würd ich sagen mal in diese LLM Geschichten reingucken und was das mit RAG und so weiter zu tun hat, ja. Ja, vielleicht so allgemein was, weil manchmal hilft es auch so, das Verständnis, wo man häufig so Wissensgraphen im Alltag begegnet, wo man gar keine Ahnung hat, dass da überhaupt wissensgraphen so hinter sind. Das ist vielleicht auch noch mal ganz spannend. Und ich find das coolste Beispiel, weil ich selber nen seriensuchti bin.

20:08 Hab mich jetzt geoutet zwischen Amazon Prime und Netflix. Tatsächlich, jeder kennt es, vielleicht Amazon Prime ganz ganz schlechte Recommendation Engine und sehr sehr langsam zum Teil wenn man nach neuen Filmen oder Serien sucht, Netflix auf der anderen Seite unfassbar coole UI, unfassbar schnell, sehr sehr gut in der Recommendation.

20:25 Der einfache Unterschied oder der der Grund, warum Netflix so viel besser ist, ist, weil sie Wissenskraften einsetzen im Vergleich zu Amazon Prime und dadurch können die eben super coole Recommendations dir geben, persönlich aber auch, und dass das viel entscheidender, warum Netflix so wirklich gut performen, die können den Wissensgraph dafür benutzen, die Insights der User Experience mit deren Filmdaten zu matchen, um darauf basierend neue Serien und Filme zu produzieren, was ich super spannend finde und vielleicht auch so noch mal so n bisschen den Punkt gibt, wo man eben.

20:54 Im Analytics Bereich auch Wissensgraphen sehr sehr effizient einsetzen, obwohl wir selber das gar nicht merken. Ein kurzer Hinweis in eigener Sache. Kennst du das auch? Ihr seid gefangen zwischen starrer, veralteter Standardsoftware und endlosen Individualentwicklungsprojekten unsere Mission bei Heisenware ist es, das zu beenden mit unserem App Baukasten geben wir dir die Möglichkeit, maßgeschneiderte Software für den Shopfloor schnell und ohne Code zu erstellen.

21:21 Denk an Maschinendatenerfassung moderne Visualisierung für die Produktionsleiter oder eine mobile App zur Buchung von Zeiten und das beste du kannst deine Lösung ganz einfach ohne it Aufwand selbst betreiben. Kurz gesagt, günstiger als eine externe Entwicklung unendlich passender als Software von der Stange. Weitere Infos und eine kostenlose 30 Tage Testphase findest du auf heisenware.com.

21:43 Einfach komplex und jetzt viel Spaß mit der weiteren Folge. Ja, das war noch mal n richtig anfassbares Beispiel, das find ich richtig cool, aber das nimmt auch noch mal zusammen, was wir ganz am Anfang gesagt haben, das für bestimmte Probleme und Amazon Prime versus Netflix und diese ganzen Dinger die damit zu tun haben auch warum ich irgendwas besser oder schlechter finde, Inhalte und so weiter das sind ja hoch vernetzte hochkomplexe Informationen. Jetzt sagst du noch mal unter outperformt halt so ne Wissenskraft einfach die schlichte SQL Implementierung ja das ist schon cool ne ist total anfassbar. Hast du noch mehr so Beispiele, die wir, die wir kennen könnten. Spotify ist zum Beispiel auch so

22:23 n klassischer Case, die setzen massiv auf Wissensgraphen Google die komplette Google Maschine ist auf Wissensgraphen aufgesetzt oder was was auch n sehr sehr klassisches Beispiel ist. Wir alle ich jetzt nicht so, aber viele mögen lieben Ikea und Ikea hat nen Versuch gestartet, die wollten nämlich ihren kompletten Physical Store in ihren Digital Store Münzen. Und die haben das mit einer mit dem Wissensgraf gemacht. Und was haben die gemacht, die haben die Domänenexperten aus dem Store genommen, die mit den Techies zusammengesetzt haben eine Ontologie gebaut, basierend auf dem Wissen von dem Store um den dann komplett auf den Online Store umzumünzen, um so die Erfahrung aus den Stores vor Ort

23:09 online zu präsentieren und die haben ihren Umsatz verzehnfacht, weil die die ganzen Erfahrungen. Eben aus den Physical Stores zum Beispiel. Das Kissen gehört zu dieser Couch, wird gerne gekauft, 1 zu 1 realtime auf die auf den Online Store gemünzt haben. Das ist zum Beispiel auch so ein Beispiel, wo man es häufig einsetzt beziehungsweise nie merkt, dass man es benutzt. Ein anderes Beispiel wäre zum Beispiel auch im About You Modegeschäft.

23:37 Ganz häufig suchen wir nach irgendwelchen Modelinien. Und wir finden das Teil nicht, weil die, weil du meistens nicht nach den Modelinien suchst, sondern nach den Stars, die die angeworben haben. Und je besser du da dein Wissen, die Relation vernetzt, desto besser funktioniert natürlich auch die Suche und je höher ist der Warenkorb und da kannst du zum Beispiel auch Gute Online Stores von schlechten online Stores unterscheiden. Ja, kann ich verstehen.

24:00 Und jetzt wollte ich euch nicht aufhalten, dass ihr über die KI sprecht, ne? Ich, ich übertrag das noch, ich will, ich will die Spannung, die Spannungsboden noch n bisschen dehnen. Bevor wir darüber sprechen, einmal kurze Frage. Das klang jetzt alles noch n bisschen abstrakt und so weiter es ist ja, aber du hast ja gesagt, es ist im Einsatz, es ist anfassbar, es funktioniert Technologie die es gibt in gibt es Frameworks, Tools die man kennen muss, die wichtigsten vielleicht also Implementierung von wissenskraft, Datenbanken und so weiter wie kann man, wenn man das mal ich sag mal mal Softwareentwickler ist oder so, wenn man es mal ausprobieren will.

24:35 Also ich weiß ja ne postquest ich hol mir n dockercontainer Pack da ne postquest Datenbank rein, dann fang ich an und dann geht das relativ schnell. Wenn ich das jetzt mal machen will und will mal ausprobieren wirklich händisch. Was ist denn das Wissenskrafen und so weiter was nehm ich denn da? Ja, da nimmst du auf jeden Fall zentris ne klar, also. Style Vorlage.

24:55 Na ja, also also ich kann das Beispiel jetzt mal an Tentris zu Ende gehen, aber du kannst, ich nenn dir gleich noch n paar andere, also für für normal hat jeder vender wenn du eine Grafdatenbank betreibst, ne Documentation der du sehr sehr gut follow kannst und dann gibt es meistens example wissensgraphen die du dann reinladen kannst.

25:10 Und dann gibt es ne Anleitung quasi wie du die Anfrage quasi schalten sollst. Und dann gibt es quasi spacle One A, One Sessions oder LPG One A One Sessions und dann gehst du da relativ straight durch. Spacle ist für den Anfang meistens immer n bisschen komplexer, weil es quasi aus dem akademischen kommt. Deswegen sagen wir immer, wenn du nen ersten schnellen Schritt im Wissenskraftbereich machen möchtest, geh mit Neo for J. Das ist der größte Platsch hier ist, da findest du alles, da ist quasi alles in der Cloud drinne, musst du nicht groß irgendwie was selber im Dockercontainer oder so hosten, dann kannst direkt quasi in deren Cloud Environment gehen. Machst du die ersten Use Cases

25:42 und wenn du dann wissensgrafen spannend findest, musst du dir eben überlegen. Was ist dir wirklich wichtig? Es gibt eben so n paar Unterschiede, zum Beispiel bei Labit Procticrus bei Neo for J hast du keine Ontologie, also keine formale Semantik, deswegen würdest du dann eher zum Beispiel Richtung uns gehen, die Semantic eben supporten, dann hast du dann eben so immer so ne gewisse Abwägung, ne, aber per se hast du, wenn du Tetris zum Beispiel nutzen möchten würdest.

26:04 Also unser Datenmodell hättest du uns innerhalb von 34 Minuten gedownloaded hochgeladen, den Lizenzkey und du könntest starten, tatsächlich, weil wir es so gebaut haben, dass es sehr sehr einfach tatsächlich nutzbar ist. Und das ist bei anderen nicht der Fall. Cool? Ja, das war ja, ist ja auch mal wichtig, dass man muss ja auch mal sagen, warum man sich auskennt und so weiter du bist natürlich mit dem mit einem Schirm her über ein schönes Produkt wirst du da erfahren und kannst das auch gerne hier auch ruhig mal anbieten, ne, das ist richtig gut, ja gerne mal ausprobieren tentos ich werd es mal ich ich hoffe ich hab mal ich bei mir ist immer das Problem wenn ich keine Zeit hab aber ich würd es echt gern mal

26:36 ausprobieren weil die die Empfehlung geht ab wenn man es mal in die Hand genommen hat wenn man wirklich mal was gemacht hat damit dann glaub ich kommt das Verständnis noch tiefer. Irgendwie rein, als wenn man nur drüber spricht. Ja, also alle gerne mal ausprobieren. Ja ich sag das mal jetzt mal gucken wieviel zuhören, dann wann eure Webseite explodiert.

26:54 Ich würd fairerweise sagen, also macht es gar nicht so auf Tetris abhängig oder so, sondern entscheidet für euch selber, wie viele relationale Beziehungen haben wir denn bei uns überhaupt im Unternehmen? Macht es überhaupt Sinn so ne Graph Datenbank mal auszutesten und wenn ihr dann, wenn ihr zum Beispiel das Problem dann habt oder seht boah wir haben voll viele Joints bei uns vorliegen. Und wir haben total viele komplexe Beziehungen, die wir besser mappen wollen, weil wir es selber datentechnisch hinbekommen.

27:19 Dann guckt euch das das Wissenskraftmodell an, es gibt super viele unterschiedliche Wände, Neo for J Graph, TB. Uns gibt es, dann gibt es auch Open Source Lösungen wie Fuseki zum Beispiel, die kann man auch super zum Einstieg nutzen, also es gibt super viele Educational Tutorials, es gibt super viele coole Triple Stores oder auch eben Graph Datenbanken.

27:38 Einfach Rausschießen und dann eben das Beste nehmen, was einem selber quasi gut, also wo man am besten mit klarkommt. Gibt es so ne Art Migrationsprozess? Also angenommen ich hab schon, du hast das Unternehmen genannt in einem bestimmten Bereich ne Datenbank im Einsatz, vielleicht für Produktionsplanung oder sowas.

27:54 Ja und jetzt möchte ich mal einfach mal testen ausprobieren und kann ich dann irgendwie gibt es so Tools die dabei helfen oder muss ich das händisch dann machen oder wie wie wie könnte man sich so n Prozess vorstellen? Ja, also wenn wir jetzt mal das Beispiel nehmen, ich hab ne SGL Datenbank, ich hab da meine Daten und ich würde die Daten gerne in ne Wissenskraft transformieren, dann gibt es einfach n mapper diesen open Source r to RML zum Beispiel kann man super einfach benutzen, ob man das ich sag mal entweder mit einem bisschen gehirnschmalz selber hinbekommt oder ob man jemanden fragt, das ist dann immer so quasi die Bio do it yourself Sache. Aber das ist auf jeden Fall Open Source verfügbar. Dann kann man das in den Wissen,

28:32 in den in die Grafdatenbank Reinladen und dann quasi Anfragen darauf stellen. Also das ist möglich. Aber dann muss ich ja schon noch. Also wenn ich jetzt nicht komplett falsch abgebogen bin, mental in den letzten Minuten, die wir geredet haben, muss ich ja, kann ich ja nicht 1 zu 1 überbügeln, weil ich hab ja Informationen nicht, die ich vielleicht noch brauche, also ich muss ja vielleicht noch n bisschen mehr assoziative Informationen zu geben, als dass ich einfach nur mein relationales datenbankdingel da irgendwie in ne wissensgraph reinschütte, oder? Wieder jetzt was falsch verstanden. Es kommt auf die Größe des Use Cases an. Tatsächlich für normal würde ich jetzt vermuten, dass du jetzt nicht mit vielen Zeilen und

29:06 spalten quasi so n Use Case so NPOC machen wollen würdest. Wir machen das Ganze meistens so, dass wir den Unternehmen sagen. Hey, gebt uns mal n kleines Datenmodell, muss gar nicht groß sein, wir transformieren euch das relativ zügig, weil wir es eben wissen wie es geht. In einem Wissenscarve geben euch die turns Instanz und dann könnt ihr damit quasi n bisschen rumspielen und das funktioniert, das ist für uns n paar Minuten tatsächlich gemacht und das kannst du eben bei anderen Benders genauso machen, nicht bei allen, aber zum Beispiel auch bei Neo 4 J kannst du dir quasi deine Daten kannst du quasi musst du erst importieren, dann kannst du die wieder bei Neo 4 J exportieren für nen

29:40 kleinen Use Case und dann damit auch selber rumspielen. Alles klar, cool, jetzt ist die Zeit gekommen, glaube ich. Seid ihr alle bereit für das Highlight dieser Folge. Spaß beiseite jetzt, jetzt sprechen wir mal über KI und warum, warum jetzt? Wir hatten zuerst die Geschichte erzählt, man wollte mal eigentlich das Internet semantisch machen, damit es besser durchsuchbar ist und so weiter vielleicht es kommt jetzt erst die Epoche, in der das tatsächlich passiert und zwar mit Hilfe von KI und ich Gleis das Thema mal an, weil wir hatten schon mal ne Folge Garrett über RAG AI. Das ist hier das Stichwort RAG nur mal kurz zur Erinnerung heißt Retrieval Augmented Generation AI und noch mal ganz kurz abgesprochen, was ist das

30:22 die AI die ihr so kennt wenn ihr irgendwas eintippt in den prompt irgendwie bei Jet GBT Germany und Co da da ist quasi der Kontext den ihr rein gibt ist quasi wird direkt dem Modell zur Verfügung gestellt und auf diesen Kontext und dem gelernten Neuronalen. Netzwerk der Anatomie, also dem hier in dem Modell, quasi das, was das alles so kennt mit den Gewichten, kommt quasi eine Antwort raus.

30:44 So weit so gut, das ist noch nicht RAG AI, das ist erstmal nur AI sag ich mal. Verhaftet mich wieder nicht wenn ich jetzt das mal sehr einfach gerade darstelle, aber was ist das RAG an dem AI dran, das heißt quasi ich nehme jetzt extra Informationen die das Modell nicht kennt. Das Modell hat zwar dieses ganze Internet irgendwie durchleuchtet und so weiter ist auch nicht ganz blöd, ja.

31:05 Aber ich hab jetzt irgendwie noch ganz viele PDFS, Dokumente, accels, Bilder, was weiß ich von meiner Firma. Die letzten 20 Jahre oder irgendsowas jemand hat das auf n Scanner gelegt und so weiter wie auch immer ja also Informationen die halt einfach das Modell nicht hat, die auch vielleicht sogar privat für mich sind und die ich dem gar nicht wo ich auch happy bin, dass das so n Modell das nämlich nicht weiß ja wie kann ich jetzt ne KI nutzen, sodass aber trotzdem diese Daten die ich ja hab und das kann sehr sehr sehr sehr sehr viele sein.

31:32 Benutzt werden für die KI, um Aussagen zu machen. Ja und ich kann es halt nicht einfach in den Chat prompt reingeben, weil wir haben so ne Art Token Fenster, also die die Anzahl der der Zeilen. Das hat mir auch mal in der Folge die ich da oder der Tokens, ja da der Inhalte quasi die ich dem KI Modell direkt reinwerfen kann ist halt immer noch limitiert und deswegen versuche ich diese Daten die ich selber hab vorzustrukturieren und wie wird das gemacht?

31:58 Ich geh durch die Dokumente durch Junket die. Also wild, also richtig technisch. Man kann es mir mit der Axt vorstellen. Ja, ich hab n ich hab NPDF 24 Seiten und irgendwie weiß ich nicht alle 300 Wörter mach ich n zack ja und dann dann werden die quasi diese Inhalte als Vektoren abgespeichert mit dem Wedding Vektoren in der Datenbank hinterlegt und jetzt mal ganz ganz grob gesprochen wenn ich jetzt ne Anfrage ans KI Modell mache, dann wird vorher diese Datenbank angefragt aber nur mit einer. Euklidischen abstandsdistanz sag ich mal. Also es wird etwas nur geguckt sind wo sind Ähnlichkeiten vom Wort her in meiner Datenbank.

32:38 Das ist aber eigentlich stumpf, also das sind zwar schon Ähnlichkeiten kontextuelle, aber in dieser in diesem Retrieval Prozess steckt nichts drin über ne Semantik, das ist da einfach stupider mathematischer Vergleich von Ähnlichkeiten von von Wörtern sag ich mal ja und wenn ich das über 4567 Dokumente verteilt hab Informationen. Dann kommen die Halt einzeln da an und dann dann verliert aber eigentlich im Prinzip die KIN bisschen diesen Kontext und so weiter ja und jetzt ist die Idee und jetzt bist du gleich dran Tobi das aufzuhören, diese diese Vektor, also diese Vektordatenbank zu füllen mit diesen mit der Axt gechankten Stücken, sondern glaube ich, wenn ich es richtig verstanden hab, quasi mit Graph.

33:21 Also wir machen nicht mehr, wir machen nicht Rack, sondern wir machen Graph Rack oder Irgendsowas. Und und diese diese Suchanfrage, die die KI macht, um um dann relevanten Kontext mit ins Modell zu geben, passiert halt gerade wieder die Wissenskraft wissenskraft weil, und das wird zu besseren Ergebnissen führen, vielleicht weil weil nämlich halt da ne Semantik drinne ist und schon und da schon quasi die ähnlicheren Sachen mit zusammengezogen werden, hab ich das richtig gesagt, oder? Ja, das geht schon voll in die in die richtige Richtung. Man kann eigentlich das so sich darstellen, so im High Level, wir haben das LLM oder sagen wir mal JGPT man stellt irgend nen prompt und das erste was

33:58 passiert ist, man muss sich erstmal die Ganzen den die Text Snippets angucken bedeutet man braucht nen Textindex um zu gucken OK wo wo sehen wir gewisse Ähnlichkeiten, wo gibt es Überschneidungen um zum Beispiel für irgendwelche Rechtschreibfehler, Grammatik, Thematiken et cetera PP auszumerzen und dann gehst du quasi in den Graph rein.

34:16 Durch die Ontologie hast du ja schon ne gute Struktur dem Datenmodell gegeben. Dann guckst du dir den Teilgraph an. Der Teilgraph wird dann quasi zurück an das LLM in das Window geschickt und dann wird daraus die Antwort generiert und da das coole daran ist, wenn das eben in der Datenbank selber liegt, hast du eben keine Halluzination auf der einen Seite, weil ne Datenbank kann nur 1 oder 0 abgeben. Und die größte Differenzierung zum Vectorbasierten Rack ist tatsächlich die Erklärbarkeit, wo wir vorhin schon n bisschen drüber gesprochen haben, weil du kannst die Daten tatsächlich visualisieren.

34:45 Also du kannst sie als Mensch nachverfolgen, im Vectorraum nun gut, Good Good luck mit dem quasi repräsentieren, so nach dem Motto oder visualisieren ne und das ist quasi so der größte Unterschied von Graph Rack zu zu Vector Rack und gerade wenn es eben darum kommt, dass man nicht nur Hunderte Dokumente, sondern 1000 Dokumente hat, unterschiedliche Silos, unterschiedliche Strukturen. In Unternehmen selber.

35:06 Dann kannst du eben nicht mehr nach Ähnlichkeiten suchen, da musst du nach formaler Semantik suchen, nach formalen Definitionen und das geht dann nur durch Wissensgraphen und deswegen haben wir jetzt quasi diesen Hype der Vektordatenbanken und Co. Ad acta gelegt. Wir hatten tatsächlich am Anfang mal vor gut 2 Jahren darüber überlegt ne eigene Vektordatenbank einzubauen, das ist gar nicht mehr nötig, weil du das quasi über diesen Textindex, diese textsuche super einfach hinbekommst.

35:28 Und wenn ihr wollt, kann ich euch gerne auch n Beispiel geben. Im Industriekontext finden. Also wenn wir die Zeit. Haben voll gerne. Ich würd dir noch mal einen Schritt zurückgeben, wenn es OK ist. Also wir sprechen immer noch über die gleichen LLMS wie sie da sind, so die, die auf dieser Transformarchitektur basieren und so weiter da will keiner dran, aber es gibt Rack wo ich mein Wissen dazu gebe und da kann ich entweder ne Vektordatenbank nehmen oder ne oder oder knowledge sprachliste das ist ne Kraft DB.

35:51 Ich beschreib das immer ganz gerne so, dass dass wir n Brain haben und unser menschliches Gehirn. Besteht ja auch nicht aus Vektoren. Das besteht aus Beziehungen aus relationalen Beziehungen zwischen unseren Synapsen, zwischen den Neuronen und so weiter und sofort. Und das LLM ist letztlich unser Mund, das Sprachrohr, das gibt nur quasi die Inferenz, die Schlussfolgerung, die in Wissenskraft selber sind aus und das LLM selber muss, bedingt durch die Graf Struktur, die wir ja schon in unserem Kopf haben, gar nicht mehr die Schlussfolgerung geben. Aber noch mal, um genau gerrits Frage zu beantworten. Ich glaube ja, das ist richtig.

36:22 Ne, du hast jetzt also das LLM. Ist ja n Modell und das ist abgeschlossen. Ja was heißt abgeschlossen, aber das ist ja erstmal fertig, trainiert ja so wenn wir es also wenn wir jetzt an Jamie ny denken oder sowas, ja das ist ja n spezielles Modell ist natürlich immer im Hintergrund weiter trainiert und so weiter von den Firmen so, aber am am Ende ist es erstmal fertig. Ja und und tatsächlich sprechen wir und das wir verifizieren das noch mal mit dir Tobi wir wir sprechen über diesen Anteil wo ich quasi wie kriege ich noch mehr präziser Informationen in ein fertiges Modell rein ne und Rack ist halt eine Technik. Und Graphrack, also wo der wo das raussuchen vom richtigen Kontext.

36:58 Man könnte so ne Art sagen Vorfilterung von relevanten Informationen ist ist es ist dann halt einfach schicker. Ja und wahrscheinlich ist es da wieder so, genauso wie bei den Case, die du vorher gesagt hast. Kommt halt drauf an wieviel wieviel Daten hast du und wie assoziiert sind die wenn es wahrscheinlich einfach riesige Mengen sind, dann dann performt wahrscheinlich n wissenskraft da an der Stelle schon wieder viel besser als. Ja, aber wenn ich aber nur irgendwie 10 PDFS hab oder irgend so was, dann ist es wahrscheinlich gerade wurscht. Ja, dann kann ich auch irgendwie Chroma DB nehmen oder irgendwas als als Vector Datenbank, ja.

37:30 Es geht wirklich auf die großen Use Cases ne und große Use Cases beginnen dann, wenn du in unterschiedlichen Datensilos, also zum Beispiel Marketing, Sales, Produktion unterwegs bist, dann beginnen wir von unstrukturierten Daten zu sprechen und dann kriegen Vector Datenbanken extreme Probleme, weil die Menschen unterschiedliche Begriffe.

37:50 Für das Produkt zum Beispiel selbst benutzen. Und das kriegst du dann nur über Wissensgraphen über beziehungsweise durch Beziehung sehr sehr gut vernetzt. OK, das wolltest du grad dein Beispiel machen, ne ne. Also zum Beispiel ja, also zum Beispiel die so ne ganz klassische Frage im Maschbau ist ja häufig, warum fällt Maschine XYZ aus, super nervig und wenn du dann zum Beispiel ne Vektordatenbank benutzt. Kriegst du Ähnlichkeitsberichte, dann gehst du in die Serviceberichte rein und dann sagt dir die vektordatenbank hey, es könnte an.

38:20 Zum Beispiel bei den Überhitzungen oder der Lagerung liegen. So könnte es ist kein 1 oder 0. Und wenn du jetzt zum Beispiel ne Graf Datenbank benutzt und dieselbe Frage stellst, dann wird wird quasi eine Ursachenforschung begonnen und die Antwort wäre dann nicht mehr könnte sondern hey, die Maschine fällt aus, weil sich das Lager XYZ. Enthält, was aktuell zurückgeworfen und zurückgerufen wird vom vom Entlieferanten und zudem kann es in feuchter Umgebung beim Lagertyp vermehrt zu ausfallen kommen. Und dann kommt eben noch mal dieser Text, Search, dieser Textindex hinzu.

38:54 Empfohlene Maßnahmen, Austausch gemäß Rückruf XYZ und das sind zum Beispiel dann die kompletten Unterschiede, wo du dann vectoric Search vectoric Ähnlichkeits Similarity Search mit wirklich bravrek vergleichst, weil du dann wirklich eine semantische Antwort bekommst. Mhm, ich glaub ich hab es verstanden.

39:12 Ist es nicht auch total? Ist nicht auch n total relevanter use Case wenn wir ich sprech jetzt mal kurz von unseren Entwicklern. Ja ich spreche ja selber das die ganze Zeit mache und wenn wir so ne riesige Codebase haben, das ist ja quasi auch wieso wie Marketing, Sales und und Betrieb und Produktion oder was weiß ich.

39:27 Du hast ja irgendwie boah du hast jetzt nicht microservice und so weiter irgendwie haben die was miteinander zu tun ähnliche Begrifflichkeiten auch von den verschiedenen Entwicklerteams vielleicht gemacht und so. Und das Verständnis über so ne Gesamtarchitektur von so einem riesigen Code Ding. Ja, das könnte man ja auch wahrscheinlich in so einer Wissens so Wissenskraft darstellen, der dann auch wenn du dann übergreifende wenn du sagst, OK, was passiert denn, wenn ich das und das hier weglösche wenn ich wenn ich ne das ist ja oft ne Frage so n in der das ist glaub ich der Grund warum viel Code kaputt geht, man macht irgendwas neu oder hier engineer irgendwas, man nimmt an irgendeiner Stelle weg und hat vergessen das ist irgendwie im

40:03 microservice XY. Das irgendwie auch noch Grad relevant ist. Ja das hat irgendwo ne Beziehung dazu. Ja, könnte ja sein, dass meine Wissenskraft das weiß, während ich es vergessen hab. Ja und mir dann das Ding sagt so Pass mal auf, da musst du gucken, ja. Ja, absolut. Also stimm ich 100% zu oder so n so n.

40:19 Anderes Beispiel was ich jetzt gestern mitbekommen hab, fand ich auch ganz spannend, da ging es um den Prime Minister von Island wo dann herausgefunden wurde, bedingt durch die ganzen relationalen Beziehungen, dass. Eine selbige Person, die er im gleichen Haus wohnt und dass diese Person quasi n offshore Konto hatte, wo Geld drauf transferiert wurde und dieses Geld konnte dann zurückgeführt würden auf den isländischen Prime Minister und nur so konnte der quasi des Betrugs überführt werden. Das hättest du eben nie hinbekommen, hättest du quasi nicht diese ganzen Relationen also zwischen. Prime Minister wohnt an Adresse bei Person, wohnt bei Adresse bei subsidiary ist Y und so weiter und sofort und das kannst du zum Beispiel Fortbetrug,

41:01 Geldwäsche und Co. Sind die zum Beispiel auch super viel eingesetzt, weil es eben sehr sehr komplexe Beziehungen sind und du das manchmal gar nicht nachvollziehen kannst, wo was genau miteinander zusammenhängt. Jetzt kam so n bisschen durch. OK, das ist jetzt ne alternative Art Rack zu machen. Also es gibt halt Graph Rack, aber der de facto Standard ist noch ne vektordatenbank.

41:21 Zu nutzen, oder wie kann man sich das vorstellen? Ist das gibt es da gegenläufige Bewegungen, ist der Markt Fifty Fifty aufgeteilt, weil es gibt ja C Greg Anwendungen da draußen. Ja, was wird denn da genutzt jetzt in Wirklichkeit? Die Big Five gehen alle auf Wissensgraphen. Also es gibt große Unternehmen, die tatsächlich jetzt gesagt haben, wir ändern unser komplettes Datenmodell auf Wissensgraphen, weil die Daten.

41:46 So rasant wachsen und dadurch, dass die Daten so rasant wachsen, wachsen die Beziehungen natürlich exponentiell, weil je mehr Daten, umso mehr Beziehungen hast du und das kannst du nicht mehr in einer Vektordatenbank Mergen beziehungsweise gut abbilden. Und gerade wenn es Richtung AI geht und die Daten immer größer werden, hast du keine Chance das mehr in der Vektordatenbank abzubilden und das war sie auch verlässlich und auch erklärbar und wir hatten jetzt zum Beispiel zuletzt n Use Case, wo wir vectordatenbank versus draf Datenbank. Uns angeschaut haben und die Graph Datenbank hat die Vectordatenbank outperformt, weil wenn die Ontologie einmal sauber formuliert ist, dann kannst du da deine kompletten Daten reinpacken, ganz easy

42:25 einfach hochladen und du hast keine falsche Antwort mehr und du kannst ja jegliche Antworten einfach nachvollziehen, das ist unfassbar cool und wenn du zum Beispiel ne neue Produktserie oder ne neue Maschine dabei hast, passt die entweder direkt in ne Ontologie rein. Oder wenn du quasi die Ontologie erweitern wollen wollen würdest. Also das Schema kannst du einfach weitere Klassen oder eben subcasts hinzufügen und dann kannst du quasi wieder das Business Graph Modell erweitern.

42:48 Also nein, es ist keine Vektordatenbank mehr benötigt, du kannst komplett auf Graph Datenbank gehen um dann darauf dein AI Rec Tool laufen zu lassen oder deine Recommendation laufen zu lassen. Cool. Ich wüsste zwar nicht, wie ich es programmieren müsste heutzutage noch, aber also wir wir also also mit so ne Rack AI hab ich auch schon mal programmiert das da gibt es ja auch Tools und so weiter aber da, das muss man sich einfach mal angucken. Ja ich glaub man muss deswegen machen wir auch den Podcast wir wir wir gucken auch mal was gibt es alles so und was sollte man sich auch noch mal reinziehen ja genau du hast ja schon mal paar Tools gesagt deine deine eigene Firma gibt es. Da muss man dann, da muss man

43:23 dann einfach mal loslegen, glaub ich, man findet sich viel Scheiß zurecht es. Geht super viel, also die kompletten. Man muss fairerweise sagen, bevor der Hype von KI und Co. War, waren Graphdatenbanken gar nicht so in aller Munde. Es gab so ein 2. Keyplayer, also seit 23 Jahren hat eben bedingt dadurch, dass die Wissensgraphen sehr sehr gut mit der LLM Struktur harmonieren, das n unfassbaren Hype Gang bekommen und wo man jetzt vor gut einem Jahr festgestellt hat, die Vektordatenbanken die die Skalieren nicht.

43:49 Haben die ganzen Graph Tools noch mal quasi nen Push bekommen und es wurden sehr sehr viele auch aufgekauft. Zum Beispiel hat Samsung letztes Jahr nen Competitor aufgekauft um deren komplette IOT Variibles, also die komplette AI deren Wissensmanagement auf ne Graph Datenbank aufzubauen, weil du das sind eben das ist super cool, das ist n super evangeling Feld und es wird noch super viel passieren weil einfach Wissensmanagement das ich sag mal eine der wichtigsten Ressourcen geworden ist. Auch gerade im demokratischen Wandel. Fachkräftemangel et cetera PP und wir müssen unser Wissen besser speichern und wenn man in die meisten Unternehmen reinguckt ich will keinem zu nahe treten, aber das ist schon manchmal spannend.

44:29 Ne wie die Daten dann gespeichert sind. Ich würd gern noch mal noch mal n bisschen mehr so in die die praktische Ecke zurück, weil man auch wieder naive Fragen. Klar, es gibt SQL oder Sequel, es gibt Spacal Spacal, aber man kann ja auch zum Beispiel bei einer Datenbank ne restabbieter Vorhängen oder sowas und dann. Über Überrest sozusagen.

44:50 Mit der Kommunizieren gibt es da auch solche Geschichten bei Graph Datenbanken sag ich mal, dass man so gleich ne AP hat, ist gleich. Klar, ganz gleich also ist ne Datenbank funktioniert wie ne andere Datenbank mit den APIS ist so n anderes Datenmodell. Mhm, jetzt muss noch mein Kopf. Du musst eben quasi immer so denken.

45:11 Meistens hat n Unternehmen für jegliche Anwendung ne Datenbank und. Wir kennen, wir agieren meistens nur mit dem Frontend und das Frontend ist natürlich zu irgendeinem Back end vernetzt. Über ne API ne Rest API meistens und das muss dann einfach nur ausgetauscht werden und dann siehst du dann auf einmal n Performance inquise wenn dann auf einmal deine dein Frontend deutlich schneller ist.

45:34 Gerade in komplexen Anfragen, weil dann da nicht mehr ne SQL hinter ist, die quasi einfache Transaktionale Anfrage beantworten kann, sondern ne Graph Datenbank, die dann eben komplexe Anfragen sehr sehr schnell beantworten kann. Da musst du nicht mehr so lange warten. Und das ist ein einfacher Austausch, der der Datenbank da klar muss das da n Datenmodell noch verändern.

45:52 Aber wenn das passiert ist ist das kein großer Aufwand mehr. Kann denn so ne Datenbank auch irgend ne Rolle spielen im im Training von von von AI oder so oder ist das das? Geht es wirklich um die Abfrage dann? Ich würde es anders formulieren. Um Datenbanken abzufragen, braucht das LLM unfassbar viel Wissen, um Anfragen gut stellen zu können, tatsächlich. Und wir hatten vor, ungefähr bis vor ein 2 Jahren das Problem, dass Wissensgraf abfragen nicht so wirklich gut in dem Modell Trainings verwendet wurden, weil es eben einfach zu wenig Daten gab.

46:22 Je mehr Daten du zur Verfügung hast und Training, desto besser versteht natürlich auch das LLM, wie es coden muss, wie es denken muss und so weiter und sofort und das hat sich jetzt durch die letzten Modelle. Um ein Vielfaches verbessern, weil natürlich durch den KI Hype und Co. Und was über viele Datenpunkte hinzugekommen sind, wie man eben mit Wissensgraphen umgeht und das war zum Beispiel so ne Win Win Situation. OK, ja, du hast gerade irgendwas danken würde. Ja, ich weiß.

46:46 Ich, ich, ich hab gerade ich hab auch gerade noch mal n bisschen gespickt, ich mach das ja auch nicht jeden Tag ne und dann du hast gerade du hast gesagt Ah das kann man das wie stellt man sich das vor ich würd noch mal was verifizieren was ich tatsächlich gerade schnell mal geminight hab wenn man sich jetzt so ne Sparkle. Abfrage vorstellt.

47:04 Ich glaube der Unterschied ist dann halt auch wieder diese triplet Abfrage, also du machst quasi nen Select ne und dann und das in den Ware statements wo man ja sagt wo man dann definiert was ich genau haben will und wo wo in der in der Sequel Bereich kommen dann noch Joints und so weiter und bei den Ware Statements kann ich dann quasi auch diese diese dreier Beziehung sagen ja wo Service ist bla oder wo das sind wo.

47:29 Ich verbinde das damit Variablen das ist also ist akademisch, ne. Also wir haben gesagt, das ist nicht so einfach, aber am Ende des Tages kann ich mehrere Bedingungen hinschreiben, 1234567 ja und benutze quasi diese Subjekt, Prädikat, Objekt, Sachen, die dann ja schon sehr menschlich klingen, ne wo ich wo ich relativ ja fast fast wie normaler Sprache ausdrücke, was ich alles so brauche, ja und dann kommt da halt n Ergebnis raus. Ja das ist schon ziemlich cool, genau. Und deswegen ist das eben auch sehr, sehr cool. Auch von der Anfragesprache her, dass es sehr an unserer Sprache orientiert ist und nicht zum Beispiel bei Secle oder so n bisschen abstrakter gehalten.

48:07 Ne, bei secle hab ich ja wo, da sag ich ja where irgendwas ist was oder greater dan oder lower dan. Dann gibt es noch das Like für Strings und so weiter ja, während ich dann quasi bei Sparkle sagen kann, wo wo der Vogel von der. Art ist oder so wie n bisschen. Wie wir denken 1. So bisschen Menschen denken, da ist es da tatsächlich dran orientiert.

48:26 Das war quasi so dieser Ursprung, das menschliche Denken in dieser Anfragesprache zu integrieren. Genau das sieht man n bisschen geht natürlich nicht perfekt, aber das war so, der die Vision dahinter, du. Sagtest ja Tim Berners Lee, der hat ne auf seinen Gedanken fußt das ja Erfinder des Webs oder oder der wird Worldwide Webs ne glaub ich. Und sind wir jetzt einfach 30 Jahre zu spät dran oder so? Oder hat das so lange gedauert oder ist jetzt tatsächlich das so, wie Buckel amox meinte, dass KI jetzt der Treiber ist, dass das plötzlich n Thema wird wieder. Es ist eher Big Data, dass der Treiber ist. Tatsächlich Ja, Unternehmen handeln meistens nur dann, wenn ein Problem vorliegt.

49:06 Die Unternehmen hatten in den vergangenen Jahren nicht oder in den vergangenen Jahrzehnten nicht das Problem, dass sie unstrukturierte Daten zugreifbar machen wollen würden. Infekt 68% der Daten in Unternehmen sind nicht für KI oder Analysezwecke brauchbar, weil sie unstrukturiert sind. Hauptsächlich dadurch bedingt, dass sie nicht miteinander in Beziehung gesetzt werden können. Und das war vor n paar Jahren egal. So ne, aber das hat jetzt natürlich unfassbar Traction aufgenommen, weil jeder jetzt auf einmal sagt, Oh verdammt, ich muss wirklich meine Daten vernetzen, ich sehe dann unfassbares Potenzial, Fachkräftemangel, Ressourcen, Einsparungen et cetera PP.

49:45 Und dadurch hat das so viel Fahrt aufgenommen und dadurch hast du eben als den Wissensgraf als einzig wirklich gut strukturiertes Modell, was ein tiefgehendes Verständnis von Beziehungen merken kann und deswegen quasi da Big Data tiefgehendes Verständnis von Beziehungen, da ist, es quasi hat es das Fahrt aufgenommen. OK, cool, was glaubst du, Tobias, was haben wir noch nicht gecovert, wo würdest du gerne mal drüber reden oder denkst du wir haben das erstmal passend erläutert? Ich glaub ich würd einfach jedem mitgeben das mal selber auszuprobieren, weil wir können jetzt total viel erzählen. Wir haben euch voll viel Input gegeben, aber ich würd es einfach mal sagen, so gebt euch mal ein 2 Stunden Zeit, spielt n bisschen selber damit rum was

50:20 ist so n wissensgraf get used it so nach dem Motto und also jeder der relationale Beziehungen hat sollte sich damit sag ich mal gerade auch im deutschen Mittelstand sich genau damit auseinandersetzen, weil die Großen machen es schon, die sagen es nur nicht. Und wenn man wirklich jetzt mit Big Data, KI und Co. Auf auf einer Wellenlänge schwimmen will und diese Digitalisierung mitmachen will, dann sollte man da jetzt eher zeitig als zu spät handeln.

50:45 Gut, dann lass uns doch noch mal wissen, wie dann tentress da ne Rolle spielen kann. Ich weiß ihr seid mit der Beta glaub ich gerade durch ne was sind eure nächsten Pläne? Wir bauen ne grafdatenbank ne. Es geht immer um Schnelligkeit und Co. Bestehende Grafdatenbanken wurden darauf ausgelegt, einfache Use Cases nur abzuspielen bedeutet, wenn es zu komplexen Use Cases geht.

51:04 Da haben die einfach n Timeout, werden langsam, brauchen zu viel Arbeitsspeicher und so weiter das haben wir quasi optimiert, sind bis zu 150 mal schneller 10, mal kostengünstiger, bedingt durch ne neue Daten Infrastruktur die wir benutzen und unsere nächsten Steps sind quasi jetzt im März die 10 zu launchen, haben jetzt erste Contracts rausgesendet beziehungsweise auch schon unterzeichnet mit Unternehmen die auch wirklich Graf Datenbanken einsetzen und dann ist der nächste Step quasi immer weiter Richtung Enterprise AI cementic Layer zu gehen. Um eben Unternehmen n gutes Backend für ihre skalierbare Infrastruktur geben zu können.

51:38 Ganz viel Erfolg dafür. Wir verlinken das. Dankeschön. Du darfst dich bei dir melden, nehm ich mal an, jederzeit gerne, auch wenn offene Fragen sind, wir sind immer auch offen, weil wir es auch so n bisschen als unsere Aufgabe sehen zu educaten und nicht zwangslich nur um den kommerziellen Aspekt zu gehen, weil.

51:54 Wenn wir ne gute Community aufbauen, die das eben versteht, dann ist das viel viel Powerful als wenn wir irgendwie nur um den Kommerz immer denken. Und ich glaube das ist so n Punkt wie den wir Deutsch noch so n bisschen mehr verstehen müssen, dass es auch um Community Building geht, um neues neues Tool schneller auszuprobieren als wir das sonst immer gemacht haben, so n bisschen skeptisch zu sein und deswegen haben wir immer n offenes Ohr für jede Person, die sich tatsächlich auch an uns richtet.

52:17 Na dann haben wir ja mit dieser Aktion hier schon den richtigen Schritt in die richtige Richtung gemacht. Ja, in dem Podcast, da wird ja auch schon mal n bisschen educated, wie du sagst. Ja, sehr cool, ja vielen Dank auch von mir, Tobi, super spannend, super spannendes Thema, ich hatte es glaub ich für viele irgendwie abgetan mit gab es mal den Versuch das ganze Internet irgendwie semantisch aufzustellen, hat nicht geklappt.

52:36 Ja und dann? Ja, wie das so ist, ne, der Mensch ist halt so. Ja dann hat man das abgetan im Kopf und dann weiß man tatsächlich, also ich wusste das nicht, dass tatsächlich die ganz großen auch und das tatsächlich so einsetzen, wie du sagst, das wird ja auch nicht. Also ich mein ich les auch n bisschen Krams und so weiter aber es steht dann auch nicht überall, das war mal ganz interessant so und dass das jetzt natürlich noch mal Relevanz mehr erfährt durch KI und so weiter und wie du gesagt hast natürlich auch durch Big Data und durch einfach die ganz andere. Ganz andere, noch mal krassere Art der Effizienzbildung durch Digitalisierung, das war da super spannend für mich. Ja, also muss man sich also noch

53:11 mal die Ornithologie und das um den Kreis zu schließen vom Anfang, also die Ontologie doch noch mal zu Gemüte führen, weil es wird relevant, ja und super spannend, danke für den Input. Sehr gerne. Hat mich gefreut. Danke auch von mir, Tobias und alles Gute für euch. Dankeschön ciao. Tschüss nach Hamburg.

53:31 Einfach komplex wird produziert und präsentiert von Heisenware. Heisenware ist deine Low Code Plattform zur Erstellung und zum Betrieb interaktiver Apps rund um den Shopfloor. Starte noch heute deinen Free Trial unterheisenware.com einfach minus komplex.