Transkript: Natural Language Processing mit spaCy

· Zurück zur Episode

Vollständiges Transkript der Episode. Zeitstempel beziehen sich auf die Audiowiedergabe.

Dominik

Hallo, liebe Hörerinnen und Hörer, willkommen beim Python Podcast.

Dominik

Heute in einer Jubiläumsepisode und zwar Episode Nummer 30.

Dominik

Natürlich sind wir hier mit dem Jochen da und ich bin der Dominik.

Hallo Dominik.

Dominik

Und heute haben wir auch einen besonderen Gast und da ist das die Ines.

Jochen

Genau, hallo Ines.

Dominik

Ja, wollen wir die Ines mal vorstellen, Jochen?

Jochen

Ja, normalerweise, genau, sagen wir Leute nochmal, sie sollen sich selber vorstellen, aber ja, vielleicht ist es ja auch gar nicht mal gar nicht so schlecht, wenn wir das machen.

Jochen

Ich habe irgendwo gelesen, dass es besser ankommt, wenn man von jemand anders vorgestellt wird.

Jochen

Das kommt wahrscheinlich darauf an, von wem man vorgestellt wird.

Jochen

Das tut mir jetzt sehr leid, dass ich das

Dominik

Inus ist Explosion, also wer ist Inus bitte?

Jochen

Genau, also wir kamen drauf, weil ich von einem Hörer eine Mail bekommen habe, der sich dafür interessierte, irgendwie ein bisschen mehr über Machine Learning, Natural Language Processing, beziehungsweise halt Spacey zu hören.

Jochen

Und da dachte ich so, oh ja, das stimmt, das wollte ich doch auch selber schon mal gerne machen.

Jochen

Und hab dann halt irgendeine Mail an Ines geschoben über.

Dominik

Ines, was was mit Spacey zu tun?

Jochen

Und genau, ja.

Ines

Ines Nix.

Ines

Also genau, wir bei Explosion, wir entwickeln Spacey, eine Open Source Bibliothek für Natural Language Processing in Python.

Ines

Und daran arbeiten wir, daran arbeite ich seit ein paar Jahren.

Ines

Und ja, damit verbringe ich auch einen Großteil meiner Zeit und wir entwickeln auch andere Produkte und Tools, hauptsächlich für Softwareentwickler, die mit Machine Learning und vor allem auch mit NLP arbeiten.

Ines

Also quasi wir entwickeln Software für Softwareentwickler, um quasi den Alltag ein bisschen schöner und produktiver zu gestalten.

Dominik

Das hört sich spannend an.

Dominik

Ich würde vielleicht wahrscheinlich, dass wir so ein bisschen mit einer Einleitung anfangen, für Menschen, die uns noch nicht so folgen können, weil die vielleicht dem Thema noch nicht ganz so tief drin sind.

Dominik

Vielleicht nochmal so ganz kurz die Beruflichkeiten klären, was ist denn jetzt überhaupt so das NLP und was macht man damit?

Dominik

Und was für Features würde man denn mit sowas wie Spacey machen wollen und sowas vielleicht?

Ines

Ja, also grundsätzlich die Idee ist, wir als Menschen produzieren unglaublich viel Text.

Ines

Und wir produzieren Text viel, viel schneller, als dass Computer schneller und effizienter werden, das Internet ist voll mit Text, alles ist Text.

Ines

Und wenn wir viel Text haben, kommen wir irgendwann an einen Punkt, wo wir einfach ein bisschen mehr über diesen Text herausfinden möchten.

Ines

Zum Beispiel, ja, und auch weiter, was ein bisschen über Stichwortsuche oder reguläre Ausdrücke hinausgeht.

Ines

Also du möchtest zum Beispiel wissen, wer macht was, wer ist das Subjekt, wer ist das Objekt, was für Personen kommen vor, was für Firmen, was für Konzepte, worum geht es hier, warum geht es hier nicht, und so weiter.

Dominik

Also ich kann den Kontext von einem Text erfassen, ist das richtig?

Ines

Genau, also du möchtest, genau, also du kannst natürlich in einem Text bestimmte Wörter suchen, aber irgendwann möchtest du ja wissen, okay, ich bekomme hier täglich ein paar Millionen E-Mails.

Ines

Worum geht es in den E-Mails?

Ines

Welche E-Mails sind wichtig?

Ines

Welche E-Mails sind nicht wichtig zum Beispiel?

Ines

Oder du hast Nachrichten, du möchtest gucken, was passiert in der Welt, geht es hier um Apple, die Firma, geht es hier um Apfel?

Ines

Geht es hier um diese Thematik und so weiter?

Ines

Ist das Spam, ist das nicht Spam?

Ines

Und das sind das eben entsprechende Dinge, die natürlich abhängen, einmal vom Kontext, die auch gar nicht unbedingt immer ganz einfach zu erfassen sind, denn Sprache ist ja relativ komplex, Sprache ist sehr zweideutig und oft sind das auch Dinge, die viel mehr zu tun haben mit dem ganzen, mit dem größeren Kontext, die Welt, die Sprache, wie funktioniert Englisch, wie funktioniert Deutsch, was sagt man so normal und

Dominik

was bedeutet das?

Ines

Genau, also oft oft Computerlinguistik ist auf jeden Fall auch ein Teil vom Bereich NLP, definitiv.

Ines

Ja, und das ist quasi eine Kombination.

Ines

Und heutzutage, was halt heutzutage funktioniert, was vielleicht früher nicht funktioniert hat oder nicht so gut ist, dass wir tatsächlich mittlerweile relativ gut einem Computer beibringen können, mehr oder weniger zu generalisieren und quasi entsprechende Vorhersagen zu treffen anhand von Beispielen, die wir ihm zeigen.

Ines

Und je nach Anwendungsbereich klappt das mittlerweile sehr gut.

Ines

Das heißt, wir sind an einem Punkt, wo Leute auch wirklich, wo man auch wirklich interessante Dinge damit bauen kann und wo auch tatsächlich diese Technologie auch wirklich zum Einsatz kommt in verschiedenen Anwendungsbereichen, Firmen, alles Mögliche.

Ja, ja.

Jochen

Früher, also ich habe da auch relativ viel schon so, was Textkategorisierungen angeht und so gemacht.

Jochen

Und zu der Zeit, das ist jetzt halt auch schon lange her.

Jochen

Aber da waren halt so lineare Modelle das Mittel der Wahl irgendwie.

Jochen

Das war so eine Idee.

Ines

Lustigerweise, selbst mittlerweile immer noch, es gibt viele Problematiken, wo wir nach wie vor Leuten empfehlen würden, hey, so eine super Oldschool-Methode linear klappt immer noch besser.

Ines

Schneller kannst du, kannst du auch teilweise heutzutage, selbst mit den hottesten Modellen, teilweise nicht überbieten.

Jochen

Ja, ja.

Ines

Aber es gibt natürlich andere Bereiche, wo wir sagen, okay, gut, da braucht man einfach ein bisschen mehr.

Ines

Und ja.

Jochen

Ja, ja, genau.

Jochen

Also ich meine, da hat sich natürlich, also so ein lineare Modell ist natürlich relativ einfach.

Jochen

Und inzwischen gibt es ja da irgendwie so, ja, was halt neuronale Netze angeht, Deep Learning, irgendwie hat sich ja einiges getan, so im letzten Jahrzehnt so ein bisschen.

Jochen

Ja.

Jochen

Das ist natürlich auch schön, dass man da jetzt so irgendwie in dem Bereich nochmal deutlich mehr rausholen kann.

Jochen

Und was ich daran ja auch total faszinierend finde, das ist jetzt auch eine relativ aktuelle Entwicklung mit diesen ganzen Transformer-Geschichten.

Jochen

Dass man da tatsächlich irgendwie aus quasi Text oder ungelabelten Daten halt irgendwie was lernen kann und dann weniger gelabelte Daten braucht, weil gelabelte Daten sind natürlich immer relativ schwer zu bekommen.

Ines

Ja, und ich glaube, es löst auch ein viel tiefer liegendes Problem, was wir halt schon immer hatten, und zwar, dass Sprache ja wirklich auch nur in Kontext der Welt and im Kontext der Linguistic existiert.

Ines

Das heißt, wenn du jetzt ein Modell trainierst und selbst wenn du den nur beibringen möchtest, is this E-Mail spam or not?

Ines

This model muss zusätzlich zu dem tatsächlichen Problem and den entsprechenden Wörtern, die wahrscheinlich meistens darauf hindeuten, ob es spam is or not, auch noch so viele andere Dinge lernen.

Ines

Zum Beispiel stonden allein, okay, wie funktioniert die englische Sprache?

Ines

Wie werden da die Wörter meistens angeordnet?

Ines

Oder auch einfach wie funktioniert die Welt?

Ines

Was sind Wörter, die im Kontext der Welt benutzt werden, und wie passt das alles zusammen?

Ines

Das ist unglaublich viel Wissen, was man eben auch einem Modell quasi immer wieder beibringen muss, damit es überhaupt

Dominik

das machen kann, was sie wollen.

Ines

Yeah, genau.

Ines

Und du wirkst wirklich immer quasi wie immer from anfang, oder so war es in der Vergangenheit.

Ines

Und jetzt Transfer Learning, nennt man das auch, eine Sache, die weit jetzt halt, and that tatsächlich funktioniert, is that we quasi that we in other processes have quasi transfer to this new problem.

Ines

Also, we can quasi this fortrain, which our model quasi should be more to listen about the spray and the general way and the general worker and so on.

Ines

Also, we can quite say here is a little raw text.

Ines

Guck dir das an.

Ines

And what function is the here are a wörter, and we lassen a word, and then lassen wir unser Modell vorhersagen, what the word sein könnte.

Ines

And that we have relatively, and the next word forhersagen can.

Ines

That's why the Gewichtungen, die we there aufbauen, have unglaublich encoded quasi over the Sprache, was there Sinn machine, when we believe, okay, what must next word sagen to it.

Ines

And that is quite so the essence of them, which is quite a bit newer and what man relatively or specific data brauchen, um relatives to lose.

Jochen

Keine Ahnung war.

Jochen

Da nannten sie das irgendwie self-supervised learning, weil es ja im Grunde gar nicht so wirklich unsupervised ist.

Jochen

Man hat ja schon irgendwie, ja, ich meine, die Information, dass in dem Text das Wort gestanden hat und lernt jetzt eben daraus, dass man das als das, was man vorhersagen möchte, betrachtet.

Jochen

Oder eben Transfer-Learning kann es halt auch.

Ines

Ja, Terminologie generell im Bereich, es gibt viele, oder auch was nennt man ein Modell?

Ines

Das finde ich ist leider ein bisschen unglücklich.

Ines

Das heutzutage, oder so, Language Model wird halt für so viele Dinge benutzt.

Ines

Ja, da wünsche ich mir manchmal, dass so ein bisschen die Terminologie ein bisschen klarer wäre, weil das auch ein bisschen, glaube ich, Verwirrungsstiftet.

Dominik

Wie würdest du das denn definieren?

Dominik

Was ist ein Language Modell?

Ines

Das Problem ist halt, okay, grundsätzlich ein Modell, oder zumindest traditionell, man nennt vieles Modell.

Ines

Man nennt, manche Leute nennen den Algorithmus ein Modell.

Ines

Das ist also quasi die Implementation, den Code, den du dafür schreibst.

Ines

But then gibt es natürlich auch das Artifact, das du da trainierst, also die Gewichte, also quasi so eine binäre Datei, die dann da rumliegt and that you am end speicher.

Ines

And vielleicht that zusammen can either so as model bezeichnen.

Ines

Dann, I think we have a language model, we have another modelle, die we trained have for the Sprachen.

Ines

But this would just auch heutzutage viel benutzt for eben diese Gewichte, die man trainiert auf der Basis von Romtext.

Ines

This is also heute hauptsächlich, was Leute meinen, wenn sie Language Model sagen.

Ines

Also, okay, wir haben einen kompletten Text aus der Wikipedia im Englischen runtergeladen und diese Embeddings trainiert, indem wir das nächste Wort vorhergesagt haben und die kann man ja jetzt weiter benutzen.

Ines

Und das ist jetzt, das ist ein Language Model.

Ines

Also es gibt, es gibt da verschiedene, es gibt verschiedene Definitionen oder verschiedene, ja.

Jochen

Ja, es wird halt irgendwie in unterschiedlichen Kontexten halt unterschiedlich verwendet, ja.

Ines

Was nennt man Machine Learning, was nennt man KI?

Dominik

Oh, AI jetzt eigentlich.

Oder AI, genau.

Ines

Ja, genau, du musst dich auch immer daran gewöhnen, weil ich bin tatsächlich, die deutsche Terminologie ist mir nicht so nah, weil ich es halt nie, weil ich es halt nie gelernt habe auf Deutsch.

Ines

Also ich bin immer gewohnt, so auf Englisch drüber zu lesen.

Dominik

Du bist doch gerade in Australien, ne?

Ines

Ich bin momentan gerade in Australien, ja.

Ines

Ein bisschen Social Distancing von Europa.

Jochen

Genau, so weit wie möglich weg.

Jochen

Ich glaube, die weiter geht auch gar nicht.

Ines

Ja, also wie gesagt, ich freue mich drauf, wieder zurückzukommen, aber halt momentan ist, okay, gut, bringt ja auch keinem was, wenn ich jetzt in der momentanen Situation da wieder in Flicker steige.

Ines

Aber ja, aber ich habe halt auch nie so, ich habe zum Beispiel nie jetzt klassisch so Informatik studiert oder so.

Ines

Deswegen, das merkt ihr teilweise im Vergleich, dass manche Leute, die halt auf Deutsch programmieren gelernt haben, da so die deutsche Terminologie drauf haben.

Ines

Und da musste ich mich auch erstmal reinlesen.

Ines

Ich habe für Spacey so einen Online-Kurs gemacht, den habe ich auch in verschiedenen Sprachen übersetzt, also ich, ich nicht, ich habe ihn auch nur auf Deutsch übersetzt.

Ines

Mehr Sprachen kann ich nicht.

Ines

Aber andere aus der Community haben uns dabei geholfen und ich muss mich erstmal sehr reinlesen in die deutsche Programmierterminologie.

Ines

So sagt man iterieren.

Ines

Also Konsens ist scheinbar ja, habe

Jochen

ich auch.

Dominik

Ja, ich will auf Deutsch sagen, ist das irgendwie, hört sich manchmal komisch an.

Jochen

Ja, es ist sehr eigenartig.

Jochen

Ich komme manchmal jetzt so im Zuge, also das Problem hatte ich jetzt letztens, dass dann irgendwie, ich weiß nicht, Domain-Driven Design, ob das euch ein Begriff ist.

Jochen

Wenn man jetzt in einer anderen Domäne unterwegs ist, also gar nicht unbedingt jetzt, wenn es ums Programmieren geht, sondern einfach fachlich ist man halt irgendwas unterwegs, wo Leute halt ihre eigene Sprache für entwickelt haben, um sich überhaupt austauschen zu können über das Thema, mit dem sie da zu tun haben.

Jochen

Und da habe ich dann erstmal alles nach Englisch übersetzt, weil ich das so schrecklich fand.

Jochen

Weil das geht gar nicht.

Jochen

Wenn da irgendwie so deutsche Wörter im Sous-Code stehen, dann dachte ich so, das muss ich unbedingt übersetzen.

Jochen

Und dann habe ich dann weitergelesen und dann hieß es so, naja, nee, am besten immer die Originalbegriffe benutzen, weil ansonsten ist das die totale Verwirrung.

Jochen

Man weiß hinterher überhaupt gar nicht mehr, was bedeutet.

Jochen

Ja, das wird dann auch passiert.

Jochen

Es ist irgendwie nicht so einfach.

Jochen

Mit den unterschiedlichen Sprachen ist blöd.

Dominik

Ja, das hat Mischungen halt.

Dominik

Gerade im IT-Bereich ist ja voll auf so Dänisch irgendwie dann.

Ines

Ja, und ich meine, Programmieren an sich, ich meine, Python ist Englisch.

Ines

Und auch so, du merkst halt natürlich, du hast die Wörter, du programmierst auf Englisch.

Ines

Oder schon allein, wenn du dir so eine deutsche Tastatur anguckst.

Ines

Die englische Programmiersprachen sind meist für die amerikanische Tastatur entwickelt worden.

Ines

Deswegen haben wir den Backtick an der blödesten Stelle und es ist eigentlich der Akzent.

Oder Backslash oder andere oder die ganzen Klammern zu tippen.

Ines

Warum ist das so nervig auf unsere Tastaturen?

Ines

Ja, weil.

Dominik

Ja, irgendwie wollte ich um die neue eigene Tastatur machen.

Dominik

Ja, ich

Ines

habe mir nochmal überlegt, ob ich die amerikanische Tastatur, ob ich einfach mal sagen kann, okay, sagen soll, okay, ich lerne die amerikanische Tastatur, weil es ja wirklich fürs Programmieren einfach ist.

Ines

Also einfach eine Taste zu haben, wo du einen Backtick tippen kannst.

Ines

Ist einfach, aber ich bin halt, ich hab mich, ja, ich krieg das nicht mehr hin.

Ines

Ich glaube, ich bin zu alt.

Dominik

Ja, muss wahrscheinlich anfangen mit einer anderen Tastat.

Jochen

Ja, oder bei mir ist das Problem auch immer, ich habe es dann immer mal überlegt, ob ich dann nicht beim nächsten Rechner dann tatsächlich amerikanische Tastatur oder englische Tastatur halt nehme.

Jochen

Und dachte ich mir, aber ich habe jetzt noch ein paar andere.

Dominik

Ich hätte auch gerne

Ines

die Umlaute auf der Tastatur.

Ines

Also es stört mich, wenn ich jetzt nicht in ein Ö tippen kann oder so.

Dominik

Ja, aber ich sag mal, die Sprache tippen ja schon alles dann auf Englisch raus.

Dominik

Also auch Kommentare und so würde ich jetzt mal schätzen, dass wir alle die auf Englisch schreiben.

Dominik

Das macht ja auch irgendwie Sinn, wenn man irgendwie ein bisschen kollaborativ arbeiten möchte und so.

Dominik

Und ja, ist halt schon interessant.

Dominik

Also ich glaube, also Englisch ist halt, weil man so ein Natural Language anguckt, mit Sicherheit um Meilen weiter, als dass irgendwie Deutsch sein wird, ja.

Dominik

Und was Meilen ist wahrscheinlich noch zu wenig.

Dominik

Einfach von der Masse an Sätzen, die so gesagt werden in den jeweiligen Sprachen und was man damit halt an Datenbasis irgendwie anfangen kann.

Ines

Aber auch einfach die Forschung, also generell die Forschung findet auf Englisch statt.

Ines

Und natürlich, es gibt unglaublich viel interessante Arbeit, auch was NOP angeht in anderen Sprachen und auch die Forschung.

Ines

Aber grundsätzlich muss man sagen, alles Sprachen, die Englisch ähneln, mit denen können wir momentan auch im Bereich Machine Learning am besten umgehen, weil da einfach die meiste Forschung stattgefunden hat.

Dominik

Okay, interessant.

Dominik

Welche Sprachen ähneln Englisch?

Ines

Also natürlich so die romanischen Sprachen schon, also alles, was ist halt so ein Spektrum, aber Chinesisch zum Beispiel eher nicht.

Ines

Also es ist eher, ich würde sagen, eher, ja, die Sprachen, die Englisch am unähnlichsten sind, sind durchaus auch weniger erforscht.

Ines

Oder die Techniken, die veröffentlicht werden oder über die geforscht werden und die Strategien für Machine Learning und so weiter, die sind halt schon meist optimiert für Englisch.

Ines

Und da ist natürlich auch die Motivation da für einen Forscher zu sagen, okay, gut, du möchtest ja auch, das kann man ja auch den einzelnen Leuten dann nicht ankreiden.

Ines

Also du möchtest natürlich, wenn du auf einem Gebiet forschst, du möchtest deine Experimente vergleichen können mit anderer Arbeit.

Ines

Du möchtest sagen, hey, hier, cool, ich habe tatsächlich was entwickelt und was gemacht hier, das irgendwie besser ist als das, was vorher da war.

Ines

Und ja, viele der wichtigen, die wichtige Arbeit ist halt, ja, funktioniert mit englischen Korpora.

Ines

Und das heißt, natürlich ist deine Motivation da auch mit der englischen Sprache zu arbeiten.

Ines

Und natürlich ist einfach mehr Daten da.

Jochen

Ja, auch einfach viel mehr Trainingsdaten.

Jochen

Ja, das ist.

Ines

Ja, aber man muss auch sagen, okay, momentan, wir sind am Punkt, wo man braucht gar nicht mehr unbedingt so viel so viele Daten.

Ines

Man kann Daten selber erstellen.

Ines

Das ist ja auch ein Bereich, in dem wir arbeiten.

Ines

Also unser kommerzielles Product, wodurch wir auch Geld verdienen, weil wir unglaublich viel Open Source, was wir verschenken quasi, is Prodigy.

Ines

This is an annotation-tool special entwickled for entwickers and machine learning.

Ines

Also, the idea is, okay, often when we have a special problem, it is often nothing to do, iron, model on the internet running that trained had and that is to that you have möchtest.

Ines

And that we are heute at a point, where we say, Oh, du brauchst du gar nicht mehr big data milliard an Beispielen, auch ein paar hundert, ein paar tausend.

Ines

Damit kannst du echt, also wenn du es gut machst and when that gut durchdacht is and machst, okay, wie strukturiere ich das Problem structure, kannst du damit echt super Resultate mittlerweile erzielen.

Ines

Das heißt, es ist auch komplett machbar, dass du sagst, hey, ich setze mich einfach hin und verbringe eine Stunde, guck mir meine Daten wirklich an, überleg mir, wie label ich die und wenn das Tool effizient ist und du damit gut arbeiten kannst, kannst selbst du als einzelner Mensch innerhalb von einer Stunde ein Datenset erstellen, mit dem du wirklich was auch produktiv machen kannst.

Dominik

Vielleicht da nochmal auf die Features könnten wir da nochmal eingehen.

Dominik

Was macht denn Spacey jetzt genau mit einem Datensatz?

Dominik

Also was kannst du damit alles machen?

Ines

Also Spacey ist eine Bibliothek, mit der du moderne NLP-Systeme bauen kannst.

Ines

Also wir haben verschiedenste Komponenten, die du trainieren kannst.

Ines

Wir haben natürlich auch Pipelines, die manchmal runterladen kann, die wir vor trainiert haben.

Ines

And for verschiedenste Tasks oder verschiedenste Probleme kannst du halt deinen Text reinfüttern anders am Ende die Annotation, die das Modell extrahiert hat, am Ende raus.

Ines

Also zum Beispiel fängt an bei Wortarten.

Ines

Du fütterst einen Text rein and the Modell kann vorhersagen, ist das ein Verb, ist das ein Nomen, und so weiter, je nach Sprache.

Ines

Dann gibt es natürlich auch die Beziehungen der Wörter zueinander.

Ines

Ist das das Subjekt, ist das das Objekt?

Ines

Das ist auch was, was man vorhersagen kann und Spacey hat halt auch entsprechende Datenstrukturen, die das halt auch abbilden können.

Ines

Denn du möchtest ja idealerweise nicht alles hier, hier eine Liste, hier ein Dictionary haben, sondern du möchtest wirklich alles effizient gespeichert haben an einem Punkt und du möchtest jedes Wort am Ende zu jedem anderen Wort wieder zurückführen können.

Ines

Also du möchtest wirklich, okay, hier habe ich ein Wort im Kontext, wie hängt das Wort mit dem Wort zusammen, wie hängt das mit dem Satz zusammen?

Ines

Und da hat Spacey halt auch die Datenstrukturen, die dich damit effizient arbeiten lassen.

Ines

Ich named Entity Recognition, das heißt, man kann auch basierend auf einem Text voraussagen, welche Wörter sind zum Beispiel ein Personenname, ein Städtename, Produktname, Firmen-Name, and so weiter.

Ines

Und das ist natürlich vor allem spannend, wenn man das halt auf seine ganz spezielle Problematik zuschneidet.

Ines

Also wenn man spezielle Begriffe in seinem Bereich hat und dann kannst du wirklich ein Modell trainieren, dass das entsprechend dir vorhersagen kann.

Und dann hast du halt den Personennamen

Dominik

oder die Domäne irgendwie, ne?

Ines

Genau, und dann kannst du auch sagen, okay, der Personenname, ist das jetzt das Subject oder das Objekt und so weiter.

Ines

Oder andere Komponenten, wo wir halt gerade dran arbeiten oder die man halt auch bauen kann.

Ines

Du kannst sagen, wenn du jetzt ein Pronomen hast, so er bezieht sich das, auf wen bezieht sich das?

Ines

Also der Mann comes nach Hause, er zieht sich die Schuhe aus.

Ines

Kannst du das auf den Mann beziehen?

Ines

That is auch in vielen Contexten sehr wichtig.

Ines

Denn das ist was when we this listen, uns ist das relativ klar.

Ines

Wenn du das maschinell machst, is it deutlich trickier and auch nicht immer so eindeutig, wie wir das gerne hadten in der Sprache.

Ines

Textklassifizierung hast du ja schon mal angesprochen vorher.

Ines

Du kannst natürlich auch Labels für den ganzen Text vorher sagen: Geht's hier um Sport, geht's hier um Politik, geht's hier um Spam.

Ines

Das ist was, was du machen kannst, und du kannst eben, und Spacey lässt sich halt diese Componenten zu einer Pipeline zusammenbauen.

Ines

Und natürlich, zwischendurch, es kann auch sein, dass du sagst, hey, ich möchte einen Baustein, der soll einfach nur richtig oldschool ein paar reguläre Ausdrücke sein.

Ines

Denn in der Praxis is das nach wie vor was, es macht Sinn.

Ines

Du trainierst ein System, richtig fancy, transformers, named entity recognition, geil, sagt Firmennamen voraus, es funktioniert super, und dann weiß ich, zeig's deinem Chef, der gibt irgendwas ein mit deinem Firmennamen drin und das Ding erkennt den eigenen Firmennamen nicht, weil der irgendwie komisch ist und überhaupt nichts ähnliches in den Trainingsdaten war.

Ines

Jetzt können sie sagen, oh, da mache ich jetzt nochmal neue Trainingsdaten, tune meine Hyper-Parameters und verbringe da nochmal ein paar Wochen dran und am Ende kriegt der unseren Firmennamen hin, aber kann irgendwelche anderen Sachen nicht mehr.

Ines

Oder du sagst, ja geil, hau ich jetzt einfach einen regulären Ausdruck drauf und dann kriegt der unseren Firmennamen immer richtig hin.

Ines

Und in der Praxis, so löst man viele dieser Probleme.

Ines

Natürlich.

Ines

Und das wollen wir und so sehen auch, so sehen praktische Systeme aus.

Ines

Du hast vielleicht einen super heißes, modernen Baustein, der halt die neuesten Transformer-Modelle verwendet.

Ines

Und dann hast du vielleicht einen Text-Classifier, der noch oldschool-lineares Modell, weil es halt einfach gut funktioniert, dann hast du noch ein paar Regeln obendrauf und am Ende hast du halt eine Repräsentation von einem Text, wo alle diese Informationen drin ist, die du dann verwenden kannst, um was auch immer dein eigentliches Ziel ist, zu erreichen.

Ines

Denn das ist ja auch nochmal ein Problem.

Ines

Oft.

Ines

Die tatsächlichen Ziele, die man hat und die Probleme, die man lösen möchte, die sind ja nicht immer eins zu eins übertragbar in ein Machine Learning-Modell, das man trainiert.

Ines

Das ist auch sowas, okay, so stellen sich das manche Leute manchmal vor, unsere Firma möchte, dass wir das und das und das auslesen und das am Ende so und so in die Datenbank eingeben.

Ines

Kann man versuchen, wirklich von A nach B komplett ein System vorhersagen zu lassen, ist aber oft in der Praxis nicht sonderlich nützlich.

Ines

Und auch oft muss man sich hinsetzen, okay, wie kann man das Problem runterbrechen in kleinere Bausteine, die man auch tatsächlich effektiv mit den technischen Möglichkeiten, die wir momentan haben, lösen kann?

Jochen

Ja, ja, ja.

Jochen

Ja, es ist auch immer wieder, ich meine, ich finde das ja tatsächlich erstaunlich, dass sich im Grunde alle Probleme letztendlich dann doch, auch vielleicht manchmal in mehreren Schritten, aber auf eben so etwas Simples wie binäre Klassifikationen quasi runterbrechen lassen, weil es ist ja von binärer Klassifikation zu Multilabel, also dass man halt mehrere Labels jetzt für den Text vorher sagt oder so, es ist eigentlich quasi auch das Gleiche.

Jochen

Und ja, dann gibt es halt noch Regressionen und dann gibt es halt noch Clustering und dann war es das im Grunde schon.

Jochen

Aber man kann damit halt eine Menge machen.

Jochen

Dann dachte ich, so, damit soll man wirklich alles machen können.

Jochen

Aber ja, also es geht schon, aber man muss sich halt dann doch ein bisschen, ja, manchmal.

Ines

Ich glaube, es geht halt um so ein bisschen ums Mindset, aber das ist ja auch beim Programmieren generell nicht anders.

Ines

Also wenn du jetzt sagst, okay, ich habe hier ein Problem, das möchte ich lösen mit Python, dann musst du dir auch überlegen, okay, was habe ich hier zur Verfügung, was sind so diese Abstraktionen, wie strukturiere ich das?

Ines

Was macht Sinn, was macht keinen Sinn?

Ines

Und das ist quasi der Job, den du dann als Softwareentwickler löst.

Ines

Und so ähnlich ist es auch im Bereich Machine Learning.

Ines

Ist auch quasi eine Art zu programmieren.

Ines

Ist halt nur ein bisschen anders und man hat halt noch diese Daten als die Komponente.

Ines

Im so klassischeren Programmieren hast du halt ein Programm, da geht was rein, kommt immer, kommt was raus.

Ines

Hier hast du Code plus Daten.

Jochen

Ja, beziehungsweise das, was man programmiert, ist nicht so sehr ein Algorithmus, sondern man legt eher die Daten für ein Modell fest, das dann irgendwie tatsächlich dann irgendwie was macht.

Jochen

Das fand ich auch interessant.

Jochen

Das gab es, glaube ich, 2018 gab es einen Vortrag von André Carpathy, ich weiß gar nicht, wie das ausgesprochen wird.

Jochen

Software 2.0 oder Software 2.000.

Genau, also das ist auch genau eine sehr ähnliche

Idee, ja.

Jochen

Genau, der sagt ja auch, ja, also früher haben wir halt sozusagen eine Lösung, also wir haben ein Problem und haben wir einen Lösungsraum für dieses Problem.

Jochen

Und wenn wir jetzt das explizit programmieren, dann nehmen wir uns einen ganz winzigen Punkt aus diesem Lösungsraum raus und definieren den halt exakt.

Jochen

Aber tatsächlich kann man ja auch vielleicht einfach eben per Daten so eine Region aus dem Lösungsraum rauszeichnen und dann halt ein Optimierungsverfahren verwenden, um tatsächlich die Lösungen zu finden.

Jochen

Also quasi per Machine Learning ein Modell trainieren, das dann halt sozusagen die Lösung modelliert.

Jochen

Und dann verändert sich der Job als Programmierer halt so ein bisschen.

Jochen

Und ja, das fand ich auch sehr interessant.

Jochen

Dachte so, ja, das ist natürlich, das hebt es dann wieder auf eine etwas abstraktere Ebene.

Jochen

Dann werden natürlich die Tools, die man dafür braucht, halt extrem wichtig und sehr interessant.

Ines

Genau, und auch

Ines

die Daten einen ganz anderen Stellenwert bekommen.

Ines

Und das ist halt auch, was meiner Meinung nach nach wie vor nicht genug Aufmerksamkeit bekommen.

Ines

Also auch so als Analogie jetzt, wenn du programmierst klassisch, schreibst du deinen Code, dann hast du einen Compiler, da geht dein Code rein und am Ende hast du ein Programm, kommt ein Programm raus.

Ines

Und jetzt mit Machine Learning hast du deine Daten, du hast einen Algorithmus und am Ende trainierst du dein Modell und dein Modell kommt raus.

Ines

And when du jetzt feststellst, okay, dein Modell ist nicht sonderlich geil, oder im klassischen Programmieren, dein Programm, was am Ende rauskommt aus deinem Compiler raus, macht nicht das, was es soll, ist zu langsam, funktioniert nicht, hat bugs, was machst du?

Ines

Du könntest natürlich hingehen und sagst, sagen, okay, da gehe ich jetzt erstmal an den Compiler ran und schreib mir meinen eigenen Compiler.

Ines

Machst du aber normalerweise nicht.

Ines

Normalerweise du gehst in deinen Code rein und veränderst deinen Code und passt den an und fix den, damit dein Programm am Manual besser wird.

Ines

Ich will damit nicht sagen, es gibt super viel Arbeit, die man im Bereich Compiler noch machen kann, aber das ist normalerweise so nicht das Erste, was man macht.

Ines

And analog natürlich, Machine Learning, wenn dein Modell nicht das macht, was it soll und damit nicht zufrieden bist, kannst du hingehen und dein Algorithmus tricken.

Ines

Und natürlich kann es sein, dass da ein Bug drin ist, der dafür sorgt, dass dein Modell nichts lernt, aber meistens, was du machen solltest, ist dir die Daten angucken.

Ines

And we are, and du kannst du das schöne praktischen Machine learning or quasi praktischen NLP, wenn du es halt wirklich anwendest auf Probleme, ist, dass du quasi selber entscheiden kannst, wie schwierig oder wie einfach du dir quasi das Problem machst.

Ines

Du kannst ja kontrollieren, wie du deine Daten annotierst, wie du die aufbereitest, wie du das Problem runterbrichst.

Ines

And that is, glaube ich, auch wie sich zum Beispiel die angewandte Praxis so ein bisschen unterscheidet from der reinen Forschung.

Ines

In der Forschung ist das Ziel ein ganz anderes.

Ines

Du hast ein Problem, du hast a benchmark, du hast einen Algorithmus, den du entwickelt hast, and then it makes sense, we won't all the algorithms among the problem vergleichen.

Ines

Denn nur so kannst du sehen, is this what I have besser than this, what jemand and game has.

Ines

Maybe my idea, funktioniert.

Ines

But that's easy the other Denkweisen, die man hat.

Ines

And that is, glaube ich, etwas, was einfach die angewandte Praxis unterscheidet.

Ines

And auch jetzt, um es wieder zurück zu führen, ein bisschen auf das, was wir so machen, was auch so ein bisschen die Philosophie von Spacey unterscheidet from vielleicht anderen Bibliotheken und auch die Gedanken, die wir uns machen müssen.

Ines

Unsere Nutzer sind ja Entwickler, die wirklich in der Praxis diese Systeme bauen.

Ines

And that heißt, wir müssen natürlich Entscheidungen treffen, die das besonders effizient and einfach machen, aber auch die Möglichkeit geben, eben diese Bausteine entsprechend zusammenzusetzen, manche Bausteine wieder zu verwenden und eben eine flexible Möglichkeit zu haben, diese System halt zu bauen und auch to testen.

Ines

And auch to see, okay, when was nicht funktioniert, möchtest du ja gucken, wo das Problem ist.

Ines

Das ist sehr schwer, wenn alles so eine Blackbox ist und du am Ende nicht weißt, was passiert da.

Ines

Da geht was rein, am Ende kommt was raus, anda.

Ines

Das war's halt.

Jochen

Ja, ja, ja, genau.

Jochen

Und das ist natürlich auch sowas, was, ja, eben, man wahrscheinlich im akademischen Bereich nicht so häufig hat, dass man eben auch mit den Annotationstools viel zu tun hat oder auch mit, so was ich auch immer häufig sehe, dass man, dass halt dieses, was wie speichert man Daten, wie regiert man drauf, wenn sich Daten verändern oder so, ist halt ein ganz wichtiger Teil.

Jochen

Dieser ganze Data Engineering-Aspekt ist halt auch total wichtig.

Jochen

Und den hat man halt eigentlich gar nicht, wenn man jetzt mit fixen Korpora arbeitet, die immer gleich sind.

Jochen

Genau, ich meine,

Ines

das ist, wie gesagt, das ist ja nicht die unbedingt, was sich ein Forscher mit beschäftigen möchte.

Ines

Aber ich glaube, das ist eher was, was man auf der anderen Seite, wenn man eben im angewandten Bereich arbeitet, sich halt bewusst machen muss, okay, das, oder es gibt so ein bisschen den momentan, viele Leute sind unglaublich heiß drauf und wollen sich halt so, okay, die letzte Forschung direkt rein ins Blut direkt initiieren, so schnell wie möglich.

Ines

Und in manchen Bereichen, also in manchen Bereichen geht das, und natürlich, wir haben wirklich in den letzten Jahren vor allem sehr schnelle Adoption gesehen von Dingen, die in der Forschung entwickelt wurden und auch praktisch sehr schnell auch wendbar waren.

Ines

Und natürlich der Kreislauf wird schneller und wenn irgendwas Interessantes rauskommt, dann dauert es auch nicht mehr so lange, bis man auch tatsächlich was Sinnvolles damit machen kann.

Aber es ist halt nicht immer so.

Ines

Und es ist auch nicht immer nur, weil irgendein Paper rauskommt, was halt spannend klingt, heißt es nicht, dass es unbedingt das ist, was eben auf jeden Fall jetzt braucht.

Ines

Und ja.

Wie gesagt, selbst mit einem für viele Probleme, selbst mit einem oldschool-linearen Modell kannst du oft viel machen.

Ines

Oder wenn dein lineares Modell das überhaupt nicht hinkriegt, heißt es auch oft, dass vielleicht deine Definition deines Problems eher das Problem ist als der genaue Algorithmus.

Jochen

Ja, ja, ja, ja.

Ja.

Jochen

Genau.

Jochen

Ja, ihr macht ja, ihr macht ja auch noch diese im Prodigy, dieses Annotationstool.

Jochen

Das ist auch alles quasi so wie Spacey auch Python, beziehungsweise wahrscheinlich dann im Frontend irgendwie was anderes, weiß ich gar nicht.

Ines

Aber Frontend natürlich, du brauchst immer ein bisschen JavaScript, damit es im Browser läuft und es ist so eine relativ leichte React-App.

Ines

Aber ja, Backend ist alles in Python und die Philosophie ist auch wirklich, okay, es ist ein Entwickler-Tool.

Ines

Du möchtest damit programmieren.

Ines

Das war uns immer unglaublich wichtig.

Ines

Und ja, wir freuen uns auch, das wurde halt super gut angenommen.

Ines

Prodigy ist sehr erfolgreich.

Ines

Und das ist auch was, was wirklich, glaube ich, Entwicklern, ja, Entwickler anspricht.

Ines

Und das ist auch die Art von Tools, die wir entwickeln wollen und natürlich auch die Art von Tools, die wir auch gerne benutzen wollen.

Ines

Also ich möchte, wenn ich etwas arbeite, ich möchte programmieren können.

Ines

When I was able to, when I wish whether I was in Python machen, and a tool gives me the microphone, there is a bit of code to scheme, denke ich cool, super.

Ines

Like for all, weil ja auch in the Bereich fast all the other in Python.

Ines

When you get Spacey benutzt, or other bibliotheken, the modelle, this is mostly Python.

Ines

You can use unglaublich machen, what the laden of data, streamen and so we can ange.

Ines

And that is our philosophy generally, we won't entwick ermöglichen, Code zu schreiben.

Ines

Wenn du Code schreiben kannst, is es immer besser.

Ines

Du möchtest nicht nur einen Button haben, auf den du klicken kannst.

Ines

Ein Button, auf den du klicken kannst, ist cool, aber wenn du mehr machen möchtest, solltest du die Möglichkeit haben.

Ines

Und für Entwickler ist einfach Code die beste Art und Weise.

Dominik

Was kann man denn machen mit den Daten, um die vorzubereiten oder aufzubereiten?

Dominik

Für Spacey oder mit Spacey sogar mit den Daten?

Ines

Ja, also es kommt natürlich darauf an, was man machen möchte.

Also meinst du mit Vorbereiten, okay, du hast halt hohen Text und du möchtest halt etwas damit trainieren und du möchtest den annotieren oder

Dominik

für mich falsch.

Ines

Genau, also erstmal, du musst natürlich die Daten musst du natürlich annotieren und die in ein Format bringen, damit du zum Beispiel dein Modell damit trainieren kannst.

Ines

Und eine Option ist, du kannst ganz oldschool in eine Excel-Tabelle machen, du kannst es ganz old school in JSON machen und das wirklich eintippen, von hier bis da ist eine Person oder das und das ist das Label.

Ines

So wird es auch oft gemacht.

Ines

Dann natürlich mit einem Tool wie Prodigy sagen wir, hey, du kannst einfach deine Daten reinstreamen, du kannst ein bisschen klicken, du kannst auch Sachen ein bisschen automatisieren, das ist halt auch immer cool.

Ines

Denn als Menschen, wir sind einfach, es gibt viele Dinge, die wir einfach schlechter können als ein Computer.

Ines

Ist halt nun mal so.

Ines

Unser Erinnerungsvermögen ist schlecht, wenn es darum geht, Dinge zuverlässig, immer consistent, genau gleich zu machen, können wir nicht.

Ines

Und das sind nun mal Dinge, wo dafür haben wir Computer entwickelt, das kann ein Computer halt besser.

Ines

Deswegen sagen wir halt, wenn du halt Dinge, die sehr ein bisschen stupide, ich will nicht sagen stupide, aber wo du immer das Gleiche machen musst, das kann halt auch ein Computer machen.

Ines

Du kannst einen Computer sagen, okay, ich bin mir relativ sicher, dass Berlin eigentlich immer eine Stadt ist.

Ines

Und wenn nicht, gut, dann kann ich das korrigieren.

Ines

Das heißt, du kannst dir Workflows bauen, wo du sagst, hey, ich habe hier ein paar Beispiele für das, was ich quasi in meinen Daten labeln möchte.

Ines

Das mache ich jetzt automatisch und guck mir das nur an.

Ines

Und wenn irgendwas falsch ist, dann korrigiere ich das.

Ines

Oder du hast schon ein Modell, das sagt ein paar Dinge voraus, ist aber nicht so gut.

Ines

Kannst du sagen, cool, Modell, label mir das schon mal und ich gucke mir das nur noch an.

Ines

Das ist was, was du machen kannst und am Ende, okay, am Ende kriegst du die Daten raus und kannst dann dein Modell damit trainieren.

Ines

Aber da fängt es halt auch, ich würde sagen, da fängt es halt erst an.

Ines

Das ist halt der erste Schritt.

Ines

Und das Lustige ist oft, wenn man halt hört, wie Leute sich über diese Themen austauschen, klingt es danach, als wäre es dann schon vorbei.

Ines

Cool, du labelst so ein bisschen deine Daten, dann trainierst dein Modell, fertig.

Ines

Aber natürlich ist es immer ein iterativer Prozess.

Ines

Wenn du dein Modell, dein Modell musst du immer weiter trainieren, genauso wie du deinen Code auch ständig refactorst und weiterentwickelst.

Ines

Das ist nicht statisch oder eine Webseite.

Ines

Du kannst eine Webseite dir entwickeln lassen, den Auftrag geben, aber die musst du halt auch updaten.

Ines

Und wenn du jemanden beauftragst, die eine Webseite zu machen, willst du normalerweise auch, dass die Webseite, yeah, dass da irgendwas eine Möglichkeit is, dass du die auch später updaten kannst und nicht jedes Mal deinen Webmaster anrufen musst, wie in den 90ern oder so.

Ines

And deswegen, okay, einmal, du hast deine Daten, meistens irgendwas geht chief, irgendwas funktioniert nicht.

Ines

Dann guckst du dir oft an, okay, was sind die Probleme?

Ines

Was könnte das darüber aussagen?

Ines

Da musst du ein bisschen oft auch ein bisschen logisch darüber nachdenken.

Ines

Okay, wie es funktioniert das Modell?

Ines

Was ist hier vielleicht das Problem?

Ines

Was haben die Beispiele gemeinsam, die halt nicht so gut funktionieren?

Ines

Vielleicht brauche ich einfach ein bisschen mehr Daten.

Ines

I have so many beispiele in diesem Bereich.

Ines

Mal gucken, wie es funktioniert, when I have a bit more hinzu give.

Ines

Oder vielleicht anstatt to sagen, oh, I have just ganz spezielle Kategorien für Stadt, Kreis, Bundesland, or so.

Ines

Vielleicht mache ich es ein bisschen allgemeiner, denn often the model a bit.

Ines

Okay, vielleicht macht es so, dass dem Modell ein bisschen einfacher sagen, okay, du musst nicht nur am Kontext, the context nur erkennen, handelt es sich um eine generelle Ortschaft, ein Land, ein Kontinent, ein Kreis, ein Bundesland.

Ines

Und das ist oft vielleicht ein bisschen einfacher am Kontext vorher zu sagen.

Ines

Und dann kannst du immer noch sagen, okay, ist das, sobald ich weiß, da geht es um eine Lokalität, habe ich einen zweiten Prozess, der dann sagt, okay, der grenzt das ein bisschen mehr ein und so weiter.

Ines

Das sind alles die Entscheidungen, die man halt treffen muss, die auch oft sehr spezifisch sind und darauf ankommen, was man halt für ein Problem lösen möchte.

Jochen

Ja, ja, also so in der Praxis kriegt man dann immer oft so, was ich bei Textkategorisierungen dann die ganze Zeit gemacht habe, war halt so in einem Preisvergleich Angebote in Kategorien sortieren.

Jochen

Und da ist es halt zum Beispiel, merkt man dann, wenn man viele Angebote hat und auch viele immer neu dazukommen von irgendwelchen Shops, die man vorher noch nicht gesehen hat, dass es unter Umständen sehr sinnvoll ist, so eine Kategorie zu haben wie alle Dinge, für die wir keine Kategorie haben, weil ansonsten verteilen die sich halt in alle Dinge, wo man einen hat.

Jochen

Und das ist gar nicht gut, weil dann, ja, und dann denkt man sich, wo kommt dieser Kram immer her?

Ines

Ja, genau.

Ines

Oder deswegen ist auch, einerseits willst du dir natürlich vorher idealerweise Gedanken machen, wie ordne ich das ein?

Ines

Du möchtest auch nicht, dass du, während du das annotierst, dass jeder dann einfach mal, oh, hier habe ich noch eine Idee für eine Kategorie.

Ines

So stellen sich das auch manchmal Leute vor, aber das ist natürlich nicht sinnvoll.

Ines

Aber andererseits musst du auch überlegen, okay, wie gehe ich damit um?

Ines

100 pro, du hast tausend Beispiele annotiert und dann denkst du, ja Mist, nee, hätte ich jetzt doch nochmal eine andere Kategorie machen sollen.

Ines

Und dann willst du ein Workflow haben, bei dem du das relativ easy machen kannst.

Ines

Und wo du nicht sagst, ja toll, jetzt muss ich nochmal ganz von vorne anfangen, oder ja, jetzt, keine Ahnung, jetzt habe ich meinen ganzen Fortschritt hier verloren und so weiter.

Ines

Also, das ist alles richtig.

Ines

Und noch ein ganz anderes Thema, auch ein ähnliches Thema ist: Du encodierst immer eine gewisse Voreingenommenheit in dein Modell.

Ines

Das liegt schon daran, dass Sprache is, and that is ja auch nicht unbedingt schlecht.

Ines

Also, the idea: okay, when you just iron aus den 60ern analysierst, there are bestimmte things, die halt, zum Beispiel mehr Männer vor allem and keine Frauen.

Ines

Da ist die entsprechende Sprache gewählt.

Ines

When du dir da, oder wenn du dir Hasskommentare auf Twitter analysieren möchtest, da ist auf jeden Fall relativ speziell.

Ines

Und du möchtest ja auch, dass das Modell sowas sieht.

Ines

But du möchtest nicht unbedingt, dass dein Chatbot am Ende Twitter-Kommentare generiert.

Ines

Genau.

Ines

Oder du trainierst dein Modell für Personennamen und in deinen Beispielen, da haben alle so schöne deutsche Namen wie Jochen und das funktioniert auch total super.

Ines

Und dann setzt du das in der Praxis ein, wo auf einmal Leute ja nicht so typisch klassische deutsche Namen haben und dann geht das nicht.

Ines

Und dann können die Leute deine Tools nicht nutzen oder haben dann ganz komische Probleme.

Ines

Und das ist natürlich auch was, dass du erst herausfindest, wenn du mit den Daten arbeitest und da tatsächlich iterierst.

Ines

Und ja.

Jochen

Ja.

Jochen

Ja, ich glaube, das ist auch, das stellen sich viele Leute irgendwie meistens dann so einfach vor.

Jochen

Ja, es ist gute Tools an der Stelle.

Jochen

Sprache ist Messi irgendwie, ja.

Ines

Ja, und es macht auch spannend, aber es ist durchaus, also ich glaube, ja, man kommt nicht drum rum, sich auch wirklich Gedanken zu machen.

Ines

Künstliche Intelligenz macht das alles für uns.

Ines

Nein, wenn du es benutzen möchtest und da wirklich und nicht nur, du musst die Gedanken machen, du solltest die Gedanken machen.

Ines

Ich finde es wichtig, dass wir uns alle Gedanken machen über das, was wir entwickeln, was wir erreichen wollen, wie wir das machen, ob es Sinn macht, was da für Probleme auftreten können.

Ines

Und eben auch, wie es funktioniert.

Ines

Ich glaube, es ist wichtig to verstehen, grob, wie funktionieren diese Modelle, was passiert da, auf welcher Basis die Vorhersagen, and what does it?

Ines

And that bedeutet is that okay, in detail machine learning must be when you have an auto fair, must not say whether the auto function.

Ines

But with a given grade, it is worth it.

Ines

And this is problematic when this in many tools or in many products completely abstract.

Ines

So, oh, give me some magical intelligence, make this all for us.

Ines

And I think that the problem is that it's not a little bit for the benutzer, that's deadly transparenter, was that eighteen passiert.

Ines

Obviously, I believe that the endbenutzer, okay, what gay up?

Ines

Okay, in the here a KI macht that, the error sollte sein, okay, where you trained?

Ines

Oder auch genau, in der Medienberichterstattung, okay, cool, irgendwas mit KI, auf welcher Basis denn?

Ines

Was macht das?

Ines

Und das einfach ein bisschen kritischer zu hinterfragen.

Ines

Und ich glaube, dahin kommen wir nur, wenn wir halt auch dafür sorgen, dass jeder so ein bisschen grob eine Idee hat, wie das so funktioniert.

Ines

Und das ein bisschen einschätzen kann.

Jochen

Ja.

Jochen

Ja, das ist momentan halt so eine Übergangszeit, wo teilweise die Erwartungen halt total übertrieben sind, auf der anderen Seite halt nicht klar ist, was alles an tollen Sachen schon geht, wo man sich denkt, wo dann Leute sagen, ja, das geht ja dann auf keinen Fall.

Jochen

Und man denkt so, ja doch, eigentlich schon, das geht ja schon.

Ines

Das ist halt ein bisschen unintuitiv, was auf einmal funktioniert und was halt nach wie vor schwer ist, weil es halt auch nicht immer proportional ist zu dem, was man sich so vorstellt.

Jochen

Und es ändert sich halt gerade und dann hat man mühselig gelernt, dass dies oder jenes nicht geht und dann ist das Wissen ja auch nur ein paar Jahre alt und dann plötzlich ist es aber schon veraltet und das geht in anderen Bereichen ja nicht so.

Jochen

Da stimmt das halt alles noch, wenn man das mal gelernt hat.

Jochen

Und ja, das macht halt viele Verwirrungen irgendwie auf allen Ebenen, ja.

Ja.

Ines

Das ist auf jeden Fall eine spannende Zeit, aber ich glaube, es gibt viele Möglichkeiten und ich glaube auch, es gibt, ja, es gibt viele Anwendungsbereiche, wo auch wirklich diese neuen Technologien einen großen Unterschied machen können.

Dominik

Das würde mich jetzt tatsächlich auch nochmal interessieren.

Dominik

Also was für Anwendungsbereiche ist denn dafür?

Dominik

Alles gibt es.

Dominik

Also Chatbots haben wir jetzt irgendwie schon gesagt oder irgendwie jetzt Nachrichtenportale, die irgendwelchen Content generieren möchten oder sowas oder

Ines

ja, also ich meine, eigentlich im Endeffekt klar, alles, wo du, wo du halt Text hast und was damit machen möchtest, aber tatsächlich, was ich immer sagen muss, es gibt natürlich so wow, fancy Dinge, die Leute entwickelt haben, die ganz cool klingen und im Endeffekt vielleicht gar nicht so einen großen Unterschied machen praktisch.

Ines

Und da gibt es viele Dinge, die wir so und die uns im Alltag begegnen, die relativ langweilig klingen, wo du aber dann siehst, oh, das macht wirklich was, oder auch für von online, okay, for the Firma intern, wenn die irgendwelche Dinge optimieren, die vielleicht vorher von Menschen manuell gemacht wurden, oder wo eben entsprechende Fehler passieren können, die man halt so ein bisschen vorbeugen kann.

Ines

Wenn, weiß ich nicht, die Zentralbanken ihren Zinssatz besser anpassen können.

Ines

Das klingt erstmal super lame.

Ines

Nee, das ist jetzt als Beispiel, denkst du so burger, next.

Ines

But that is tatsächlich, was entsprechend auch einen sehr positive Influence has auf the Welt, of the Wirtschaft, unser generelles Zusammenleben.

Ines

Also auch komplett.

Ines

That's not so here finance, evil, sondern that is objektiv to sagen, okay, good, davon haben wir eigentlich alle was.

Ines

Jetzt, genau, als Beispiel, aber auch ich würde schon sagen, die Sachen, die relativ gut funktionieren, sind nicht immer die sexiesten, wie man so gerne sagt, aber ja.

Jochen

Ja, ich meine, ich kenne es halt häufig, ich weiß nicht, ob das jetzt die Welt wirklich besser macht, aber es wird viel verwendet, eben in diesem ganzen Bereich Werbung irgendwie automatisiert in gewisser Weise.

Ines

Da kann man sich, glaube ich, schon, da kann man sich tatsächlich drüber streiten.

Dominik

Was passiert eigentlich, wenn man sowas wie Spacey auf Python als Sprache lassen würde?

Dominik

Also Text in Python, also eine Programmiersprache.

Ines

Also es gibt, also Spacey jetzt an sich ist schwer zu sagen, weil natürlich die Implementationen, die wir jetzt entwickelt haben, die sind natürlich so ein bisschen getunt auf tatsächlich die natürliche Sprache.

Ines

Aber es gibt sehr interessante Projekte zu Source Code Analyse mit Machine Learning.

Ines

Ich glaube, GitHub hat dazu auch was gemacht.

Ines

Das war sehr spannend und ja, es gibt auch ein paar Projekte, wo du halt siehst, oh, cool, auch dieser generative Ansatz, der funktioniert ja auch.

Ines

Du kannst ja auch sagen, basierend auf diesen Wörtern oder diesen Tokens im Programmieren Sinne, sage die nächsten voraus.

Ines

Und so kannst du tatsächlich, und dann kannst du natürlich als ja, nun du kannst natürlich sagen, was am Ende raus das Ding produzieren muss, muss natürlich gültiger Code sein, der auch läuft.

Ines

Und so haben auch Modelle entwickelt, die natürlich dann programmieren könnten, also auf quasi replizieren können, was sie irgendwie, was other Leute auf GitHub gepostet haben.

Dominik

Oder eine Super Suggestion für Autocomputition oder sowas, das ist ja irgendwie dann auch relativ nah.

Ines

Also das ist zum Beispiel ein Bereich, wo ich sagen, okay, das macht natürlich Sinn, oder auch wenn jetzt rein theoretisch, stell dir vor, du könntest sowas auf, wenn du hast eine riesen Codebase und du könntest sowas trainieren für deine eigene Codebase, das wäre zum Beispiel nochmal cooler als jetzt, okay, auf der Basis von dem ganzen Internet oder du hast, du fängst an mit so einem relativ generischen Modell, das jetzt irgendwie auf GitHub alles Mögliche gesehen hat, dann passt du das so ein bisschen an mit deiner Codebase.

Ines

Und dann könntest du zum Beispiel dein Editor sagen, ja, hier hast du aber einen Namen benutzt, der irgendwie sieht komisch aus oder diese Variable, das sieht irgendwie, das passt nicht.

Ines

Und dann kannst du sagen, ah, ja, stimmt, stimmt, das war nicht so gut der Stil oder stimmt, so machen wir das ja eigentlich nicht in dieser Codebase.

Ines

Das ist zum Beispiel ganz spannend.

Ines

Aber das ist auch wieder so was, das is cool, but is just vielleicht nicht so hype wie Wow, AI screens just for us.

Ines

But man muss even when you modell trainers, they either the next word for her talk, they can super interessante.

Ines

But in effect, dein Modell is kept programmier.

Ines

Genauso wie when du jetzt irgendwie so ein Modell fragst zu medizinischen Themen oder so, auch wenn das das ganze Internet gelesen hat.

Ines

Das kann sich dann als Doktor ausgeben oder so als Arzt ausgeben, oder es kann genau diesen Text produzieren, aber es kann nicht unbedingt Krebs heilen, weil es eben nur das repliziert, was andere Leute existiert an Text über die Heilung von Krebs zum Beispiel.

Ines

Und deswegen, ich glaube auch so, die Idee, so weit brauchen wir bald keine Programmierer mehr.

Ines

Ich finde, das ist immer ein bisschen.

Ines

Ich finde auch, man kann sich Webentwicklung angucken.

Ines

Das ist ein ganz gutes Beispiel.

Ines

Da ist einfach ein paar Jahre voraus.

Ines

Die Tatsache, dass jeder, jedes Café jetzt eine Webseite einrichten kann, bedeutet nicht, dass wir keine Webentwickler mehr brauchen.

Ines

Im Gegenteil, das ist als Beruf gefragter denn je.

Ines

Es ist nur, ja, bestimmte Teile der Technologie sind halt zugänglicher.

Ines

Aber es gibt nach wie vor enough, die daran arbeiten.

Ines

And it bedeutet auch, dass okay, Firmen viel, viel mehr investieren.

Ines

Jede Firma has growth, die sich halt with Web-Apps, User Experience und so weiter beschäftigen.

Ines

Das ist ganz normal.

Ines

Und das geht auch nicht zurück, nur weil sich jeder jetzt irgendwie online einen Blog einrichten kann.

Dominik

Was ich halt vielleicht dann doch verändern könnte, ist halt irgendwie die Art und Weise, wie man sowas macht.

Dominik

Also dass man halt jetzt nicht vielleicht pure Syntax schreibt, sondern vielleicht irgendwie auch logische Gedanken irgendwie formulieren kann und die Syntax dafür dann übernommen wird vom Algorithmus.

Dominik

Ich weiß nicht, ob das wirklich gehen kann.

Ines

Ja, also ich glaube auch generell für andere professionelle Anwendungen oder es gibt ja auch viele Leute, die professionell arbeiten, ob es jetzt Buchhalter sind, Anwälte, weiß ich nicht, Ärzte, die benutzen ja auch professionelle Software und die auch Tools und die wollen, die programmieren.

Ines

Auch jemand who in Excel arbeid, or irgendwelche Suchqueries eingibt in irgendeine Datenbank or so, that is also a art of programming.

Ines

And that's all tools, that man verbess can, or where many nutzer besser tools zur Hand geben kann, um einfach quasi besser arbeiten zu können.

Ines

Und das heißt nicht unbedingt, dass man ein magisches KI-Modell hat, das auf einmal den Anwalt ersetzt oder den Arzt ersetzt oder den Buchhalter ersetzt, sondern.

Dominik

Bei der einen wird mehr, bei anderen weniger schade, ja.

Jochen

Ja, wobei ich mich da auch manchmal frage, ob das nicht so ein Bias ist, den man hat, dass man denkt, dass da bestimmte Berufsgruppen, die halt ein traditionell hohes Ansehen haben, vielleicht gar nicht so unersetzt.

Jochen

Also ich denke jetzt gerade an sowas wie Lehrer zum Beispiel, wo man sich sagt so, ja gut, also wenn das jetzt mit dem, also vorher fand man das ja vielleicht mit irgendwie Remote-Dinge unterrichten oder so, pui bä, und jetzt konnte man halt nicht anders.

Jochen

Jetzt haben die Leute gesehen, ah, es geht ja doch, ist ja gar nicht so schlecht.

Jochen

Warum ist das eigentlich besser, wenn das jemand, der aus dem gleichen Dorf kommt wie ich macht, sozusagen, und könnte es nicht auch sein, dass ich da jemandem zuhöre, der wirklich richtig Ahnung davon hat?

Jochen

Der muss aber nicht unbedingt hier sein.

Jochen

Also es könnte schon sein, dass.

Ines

Ich finde es schon spannend, was sich halt ja auch jetzt durch die Situation, die Corona-Situation da entwickelt.

Ines

Aber, und man muss auch, ich meine, was jetzt Jobs angeht, man muss es natürlich realistisch sehen.

Ines

Es gibt viele Jobs, die werden wegfallen oder die sind bereits weggefallen und werden durch Technologie generell wegfallen.

Ines

Und das betrifft entsprechende Menschen und das betrifft auch entsprechende Bevölkerungsgruppen und eben leider auch entsprechende Bevölkerungsgruppen, die schon eh weniger privilegiert sind als andere.

Jochen

Das ist

die Praxis.

Jochen

So ist es.

Jochen

Meistens so, aber ich weiß, ich weiß gar nicht, ob es diesmal so unbedingt sein muss.

Jochen

Oder mich würde es freuen, wenn es auch mal andere trifft.

Jochen

Aber gut, keine Ahnung.

Jochen

Vielleicht trifft es auch immer die gleichen.

Ines

Das ist halt immer ein viel tiefgehendes Problem.

Ines

Natürlich, grundsätzlich ist es ja nicht schlecht.

Ines

Wenn wir alle weniger arbeiten müssten, wäre das toll.

Ines

Aber das Problem ist, wie alles in unser Welt, in unserer Gesellschaft, eben nicht proportional auf uns all verteilen.

Ines

Genauso wie sich das Geld nicht proportional.

Ines

We verdienen all viel, viel, viel mehr Geld in Schnitt.

Ines

But the gold verteilen sich leider nicht proportional auf uns allgemein.

Ines

Sondern nur auf the winning.

Ines

That's what it is.

Ines

It is naive anzune, that the forte of water and automatic auf einmal gleich auf uns alle verteilt, that we all have.

Ines

Natürlich.

Ines

And this is what many was bewusst machen muss, when many technologien arbeitet, aber was man auch andererseits nicht mit Technologie magisch lösen kann.

Ines

Wie viele andere Probleme auch.

Dominik

Also ein paar Sachen erstelle ich mir wirklich dann doch nicht.

Dominik

So was wie der automatische Winkeladvokat oder sowas tatsächlich.

Dominik

Das wäre doch was, was man gebrauchen könnte.

Dominik

Man braucht dann halt nicht mehr diese menschliche Komponente, sondern man hat eine automatische Komponente, die relativ genau weiß, wie man so Sachen wie Gesetzestexte interpretieren kann, die ja, ich sag mal, relativ wenig Interpretationsspielraum lassen sollten, aufgrund der Formulierung eigentlich.

Dominik

Ja, also

Jochen

ich weiß nicht, es ist einfacher, juristische Texte zu verarbeiten, ich hasse.

Ines

Also ich meine, Jurist ist ein interessanter Bereich.

Ines

Da gibt es zum Beispiel auch eine Bibliothek, die auf Spacey aufbaut, die ein Entwickler, der eben auch Jurist ist, entwickelt hat.

Ines

Das ist auch was, was ich sehr toll finde, dass halt in unserem Bereich, da wir natürlich auch, wir wollen sichergehen, dass auch Spacey relativ, zumindest der Einstieg leicht ist.

Ines

Es ist unglaublich leistungsstark, aber du kannst auf jeden Fall relativ einfach anfangen.

Ines

Und das ermöglicht eben auch Leuten, die vielleicht aus dem anderen Bereich kommen, sagen, cool, ich habe mir ein bisschen Programmieren beigebracht, ich möchte jetzt anfangen, in dem Bereich zu arbeiten.

Ines

Und da gibt es ein paar Pakete, die halt Entwickler entwickelt haben.

Ines

Und eins davon nennt sich Blackstone, das beschäftigt sich eben mit juristischen Texten auf Englisch.

Ines

Erstmal.

Ines

Und da kann man auch ganz spannende Sachen machen.

Ines

Ich glaube, es ist nicht, ja ich glaube, es ist leider halt nicht so einfach, dass Juristensprache ist halt so kodiert, dass es eh das gleiche ist.

Ines

Aber es gibt, ich glaube tatsächlich, es gibt, weil es halt so eine Formel, weil es sehr formuläisch ist, sagt man das so?

Jochen

Formal, formalisiert.

Jochen

Formal, formal.

Jochen

Irgendwie so, ich weiß nicht.

Ines

Das war jetzt so ein Anglizismus-Fail, also formulaic, wollte ich sagen.

Egal.

Ines

Also it's auf jeden Fall sehr spannend, aber natürlich, was man zum Beispiel auch im juristischen Bereich, du musst ja auch immer bedenken, am Ende sitzt da ein Richter oder so, in vielen Fällen, and trifft eine Entscheidung.

Ines

And that is also a entscheiding basier of einer menschlichen Interpretation.

Ines

And that should not be for the end.

Ines

Und klar, man kann so ein bisschen technically nutrient, um Fehler zu vermeiden.

Ines

There are viele Dinge, wo man sagen kann: okay, we have documents, you don't have to use a computer, when there is a problem, when it was and iron was verdächtiglich aussieht, kannst du da halt nochmal aufmerksamkeit.

Dominik

Ich glaube, ein Algorithmus könnte an der Stelle zum Beispiel relativ genau vorhersagen, was so der Spielraum realistischerweise denn ist.

Dominik

Ich meine, man kann jetzt irgendwie in einem juristischen Kommentar nachschlagen und gucken, wie könnte denn der jeweilige Sachverhalt interpretierbar sein?

Dominik

Und ich glaube, sowas kann halt der Algorithmus auch recht gut.

Ines

Also ich meine, man könnte vielleicht diese Recherche, die vielleicht ein Jurist machen kann, aber man muss auch wieder vorsichtig sein, denn am Ende, worauf basiert dein Modell?

Ines

Dein Modell basiert vielleicht auf anderen Entscheidungen.

Ines

Dein Modell kann vielleicht replizieren, was in der Vergangenheit entschieden wurde, ist das denn immer gut?

Dominik

Strafverkehrsrecht trainiert und jetzt mal.

Ines

Ja, ich meine, und das ist auch, oder es gibt ja so ein paar Sachen, über die man liest oder andere Bereiche, auch aus dem Rechts oder auch aus dem Behördlichen oder auch aus dem Bereich Strafverfolgung, zum Beispiel in den USA, die einem das sehr Sorgen bereiten können oder wo auch gewisse große Technologiefirmen hingegangen sind und versucht haben, ihre künstliche Intelligenz sehr aggressiv zu vertreiben und dann Leuten zu erzählen, die ist 99,9

Ines

Prozent korrekt oder so.

Ines

Was natürlich, schon allein, wenn du sowas hörst, da müssen die eigentlich die Alarmglocken angehen.

Ines

Aber Leute glauben das, weil ja, ist ja, ist halt künstliche Intelligenz.

Ines

Und dann soll diese künstliche Intelligenz entscheidet dann halt, ob jemand auf Bewährung entlassen wird oder nicht.

Ines

Auf der Basis von, keine Ahnung, unklar, sagen wird ja nicht gesagt, aber angeblich 99,9% korrekt oder so.

Ines

Und da sind natürlich alle Entscheidungen, die Menschen gemacht haben, inklusive jeglicher Voreingenommenheit, ob gut oder ob schlecht, drin wieder gespiegelt.

Ines

Aber andererseits gibt den Menschen das schöne Gefühl, das sind ja nicht wir.

Ines

Wir müssen ja jetzt nicht die Entscheidung treffen.

Ines

Das ist ja das System.

Ines

Und das ist sehr, sehr gefährlich.

Ines

Und eigentlich, was ich immer finde, Leute denken immer an diese Dystopie, wo die KI uns alle umringt oder schlauer ist als wir alle und die Technologie funktioniert und die uns dann alle unterdrückt oder sowas.

Ines

Aber was viel, viel gefährlicher ist, ist eine Zukunft, die auch viel früher passieren wird, wo es so lala funktioniert, wie momentan schon.

Ines

Manches funktioniert ganz gut, manches halt nicht.

Ines

Aber wo es gefährlich ist, ist, wenn die Allgemeinheit glaubt, dass es funktioniert.

Ines

Das ist viel, viel gefährlicher als so eine dystopische KI-Zukunft, wo die Maschinen alles super machen und auf einmal super intelligent sind.

Jochen

Wenn sie das gewählt wird, vielleicht machen sie es dann ja auch gut, wer weiß.

Ines

Aber auch wenn wirklich die Idee, zumindest diese Prämisse funktioniert.

Ines

Was gefährlich ist, wenn du hast, du hast da ein System, was irgendjemand so zusammengehackt hat mit allem möglichen Zeugs, was so was gar nicht wirklich funktioniert.

Dominik

Golden Age für gute Entwickler, die können ja einfach da so tun, als haben die ein gewünschtes Ergebnis und alle Leute glauben, was sie da erzählen.

Dominik

Ja, genau,

Ines

genau, aber das ist ein unglaublich im Beispiel und auch hier historisch vielleicht ganz relevant, auch so für uns.

Ines

Dann kommt jemand kommt an und holt deinen Nachbarn ab, weil das KI-System, das 99,9 Prozent korrekt liegt, gesagt hat, dass der ein Terrorist ist.

Ines

Dann sagst du dir, ja, also du hoffentlich jetzt nicht, aber so dann sagen sich viele Leute, ja gut, wenn das halt so ist, ist halt die Technologie, ne, wenn die da, wenn das ja 99,9 Prozent, das muss schon richtig sein.

Ines

Und das ist, das ist sehr düster.

Ines

Und das ist genauso düster, wenn das halt, was weiß ich, überhaupt nicht funktioniert und so ein komisches Modell ist, was man jemand trainiert hat.

Dominik

Ja, aber solche Modelle gibt es ja schon.

Jochen

Wenn es halt gut genug funktioniert, wenn es halt gut genug funktioniert, dass man es einsetzt, aber einem dann halt egal, ist, dass es halt sehr ungerecht ist und man sich dann auch nicht mehr dafür verantworten muss, weil es hat ja der Computer entschieden, dass es schon, das ist halt so ein bisschen wie eben, man geht zur Bank und die dann gesagt, so, nee, kein Kredit für dich heute.

Dominik

Ja, und irgendwie und Motveranstaltung, ne?

Dominik

Wo du halt irgendwie so

Jochen

sagt, nein.

Dominik

Wo du halt von oben so Drohnen hast, die gucken, was du halt machst.

Dominik

Und wenn du dich halt auf eine Parkband setzt und halt dem Strom nicht folgst oder sowas, dann gehst du halt direkt in den Fokus, desjenigen, der da guckt, was denn da los ist.

Dominik

Weil könnte ja sein, dass da irgendwas nicht in Ordnung ist.

Jochen

Ja, ich weiß gar nicht, wer das, von wem dieses Bild war, aber im Grunde, wenn man Leuten vermitteln möchte, was denn jetzt diese, wie das denn funktioniert, dann fand ich das sehr hilfreich, sich das so vorzustellen, dass man sagt, naja, so künstliche Intelligenz, wir haben es im Grunde mit denen heute auch schon täglich zu tun, so mit denen wir es dann in Zukunft zu tun kriegen.

Jochen

Und zwar Unternehmen oder Organisationen, Behörden, die sind im Grunde schon sowas.

Jochen

Die sind nur halt sehr viel langsamer, aber im Grunde sind die so.

Jochen

Und man muss sich das nur vorstellen, die Dinger werden jetzt halt richtig schnell.

Jochen

So, dann hat man so eine Vorstellung, was da passieren wird.

Ines

Das stimmt eigentlich eine ganz gute Analogie auch, weil okay, momentan auch so eine Behörde, okay, da hast du entsprechende Regeln, entsprechende Abläufe und das wird halt reproduziert von Menschen, die halt da sitzen am Schreibtisch.

Ines

Und ja, und am Ende kannst du, ein Computer kann das genauso machen, natürlich, aber ohne

Jochen

Rechtsweg, Rechtsweg ausgeschlossen.

Jochen

Computer ist nicht.

Ines

Ja, und es ist nicht, natürlich gibt es auch Dinge, die auch natürlich einen großen Vorteil sein werden oder auch, oder wo eben vor allem die interessanter Sachen sind, wo eine Machine einen Menschen unterstützen kann.

Ines

Oder wo zum Beispiel eine Maschine auch nochmal auf ein Röntgenbild drauf gucken kann anders hervorheben kann, damit sich das nochmal an Arzt anguckt or so.

Ines

Damit halt nichts übersehen wird.

Ines

And that is, but so muss man, so muss man, meiner Meinung nach auch an die Dinge rangehen.

Ines

When man sieht, oh, a neues System can Tumore erkennen before, uh, can genauso gut Tumore erkennen wie ein Mensch oder so.

Ines

That heißt ja erstmal, erstmal heißt das ja nicht, dass das System überhaupt besser ist als ein Mensch.

Ines

Das heißt, dass normal das Datenset, mit dem das trainiert wurde, and then hast du die Vergleichsdaten, an denen das ausgewertet wird, and meistens, wenn du Menschen nochmal sowas auswerten lässt, die Menschen sind ja auch nicht hundertprozentig genau.

Ines

Die Menschen kriegen dann manchmal so 90% hin oder so.

Ines

Und wenn du ein System hast, das auch 90% hin kriegt, dann sagst du auch genauso gut wie Menschen.

Ines

Und auf dem ganz bestimmten Aufbefehl.

Ines

But it is ja nicht in so einem Bereich, when das System einsetzt und das jetzt ausschließlich deine Röntgenbilder auswertet, das ist vielleicht nicht so geil.

Ines

But when the system vielleicht irgendwas sieht, was ein Mensch übersehen hat, warum nicht?

Ines

Kann auf jeden Fall sinnvoll sein.

Ines

Und im Bereich so gruselige Anwendungen oder so negative Dinge, ich finde, worüber nicht genug geredet wird, ist so Spam und Malware.

Ines

Weil das ist tatsächlich schon sehr realistisch und das ist viel destruktiver als jetzt diese Idee, uh, werden uns die Maschinen versklaven.

Jochen

Oder wahrscheinlich eher andere Menschen, die Maschinen benutzen, um uns zu versklaven.

Jochen

Wahrscheinlich.

Jochen

Die haben halt eine Intention, die Maschinen gar nicht so.

Ines

Ja, ja, eben.

Ines

Ich glaube, das ist das viel nähere und realistischere Problem, den wir uns stellen müssen.

Ines

Oder wofür sich auch, glaube ich, jeder Entwickler fragen muss, okay, was mache ich hier?

Ines

Wozu trage ich hier bei?

Ines

Ist das gut oder schlecht?

Ines

Und ich glaube, das kann man nicht unbedingt voneinander trennen.

Ines

Ich glaube, man kann da nicht sitzen in seinem Vakuum und sagen, oh, ist mir egal, ich schreibe nur Code.

Dominik

Ja, man kann ja auch relativ wenig gegen machen.

Dominik

Also selbst wenn man jetzt irgendwie vernünftige Lizenzbedingungen nimmt, ob man da irgendwie dann sich aus dem Steiner ist, das ist schwierig.

Ines

Ja, das ist auch was, wo wir uns Gedanken machen müssen, okay, wenn wir jetzt zum Beispiel mehr Funktionalitäten für bestimmte Sprachen zur Verfügung stellen, wer benutzt das?

Ines

Wer und okay, wir machen das öffentlich verfügbar, Open Source.

Ines

Wie viele Menschen gibt es, die diese Sprache sprechen?

Ines

Welche Regierungen gibt es?

Ines

Gibt es da Problematiken, wo die Regierung vielleicht die eine Regierung, die eben zum Beispiel gegen entsprechende Bevölkerungsgruppen arbeitet and the Möglichkeit had, diese Technologie am effizientesten zu verwenden?

Ines

Oder is es sinnvoll for the allgemeinheit auch the einzelne Individuen anders or what the Möglichkeit to give the technology to nutzen, where open source nature a good Möglichkeit is.

Ines

Und auch vor allem, okay, es ist so eine Bibliothek wie Spacey is sehr verbreitet, it is sehr beliebt, viele Leute benutzen das.

Ines

Zwei Millionen Downloads pro Monat gehen irgendwo raus an irgendwelche Systeme und an irgendwelche Server and Dinge, die Leute damit machen.

Ines

And in irgendwelche thousende Firmen, die damit auch Dinge machen.

Ines

Und wer weiß wohin noch?

Jochen

Ja, es ist schwierig.

Jochen

Ich weiß auch nicht, inwiefern.

Ines

Natürlich, also ich bin nach wie vor Verfechter von Open Source und ich glaube Open Source als auch einerseits natürlich als Softwaremodell, aber eben auch als und natürlich, andererseits muss man auch sagen, als Geschäftsmodell.

Ines

Das ist ja eine Open Source ist ja auch weiter und weiter verbreitet als Softwarevertrieb quasi.

Ines

Das ist ja auch eine Realität der Open Source.

Jochen

Ja.

Jochen

Software.

Jochen

Irgendwie tatsächlich hat sich das so durchgesetzt irgendwie.

Jochen

Ich erinnere mich noch an, das war an die Halloween-Papers 1997 von Microsoft, wo sie geschrieben haben, oh nein, das wird uns alle irgendwann umbringen, langfristig.

Jochen

Und es ist tatsächlich passiert, sehr gut.

Jochen

Aber auf der anderen Seite wird Microsoft heute auch wieder was anderes an.

Ines

Und Microsoft ist einer der Vorreiter im Bereich

Open Source.

Jochen

Ja, hätte ich mir damals nicht träumen lassen, aber es ist tatsächlich so passiert, ja.

Jochen

Erstaunlich.

Ines

Ja, aber was interessant ist, finde ich, auch da, im Bereich Open Source, ist, ich glaube, es wird oft missverstanden, Leute denken, ah, Open Source ist verbreitet, weil es gratis ist.

Ines

Natürlich, die Tatsache, dass es halt meist frei verfügbar ist, ist auf jeden Fall ein Aspekt davon.

Ines

Aber in commercial Bereich or what firms.

Ines

The tatsa that it's gratis is not unbeding the knackpunkt.

Ines

The knackpunkt is that it's often, that is and that many programming can.

Ines

The code is there.

Ines

And when you these entwickler-tools have that open source, als Open Source-Bibliotheken zur Verfügung gestellt wird, and the Tatsache, dass du dich nicht auf eine Lösung festlegst oder auf einen Anbieter festlegen musst.

Ines

And einschließen lässt und diese Autonomie bewahrst.

Ines

Ich glaube, das ist in der Praxis tatsächlich, was für Firmen deutlich entscheidender ist, als die Tatsache, dass es null Euro kostet.

Ines

Denn es kostet ja in der Praxis nicht null Euro, mit einer Open Source-Bibliothek was zu entwickeln.

Ines

Und da wird auch unglaublich viel Geld rein investiert in vor allem KE, Machine Learning, die entsprechende Entwicklung.

Ines

Das sind top-bezahlte Entwickler.

Ines

Weswegen auch zum Beispiel Entwickler-Tools und Developer Experience und Tools, die halt sowas fördern und einfach die Entwickler produktiver machen, einen großen Einfluss haben können.

Ines

Weil cool, wenn dein top-bezahlter Machine Learning-Entwickler ein bisschen weniger rumsitzen muss und ja, stupide Arbeit machen muss und einfach besser arbeiten kann, ist das natürlich besser für alle.

Jochen

Lohnt sich auf jeden Fall, aber ich hab, ich weiß nicht genau.

Jochen

Also ich habe doch häufig das Gefühl, dass es da so ein gewisses Marktversagen gibt, irgendwie, weil wenn man sich zum Beispiel eben sowas anguckt wie Pandas oder Django oder Spacey, weiß ich jetzt gar nicht genau.

Jochen

Aber so halt Software, die halt als Infrastruktur unter ganz, ganz vielen Produkten und bei ganz, ganz vielen Firmen sozusagen da drunter liegt, dann müsste man ja jetzt meinen, so rein aus so, äh gut, ich habe jetzt nicht so wirklich Ahnung von Ökonomie, aber so, also dann wäre es doch für große Firmen allein schon aus so einem Versicherungsaspekt sinnvoll, die Projekte zu unterstützen, damit ihnen nicht plötzlich die Infrastruktur unter den Füßen wegbricht.

Jochen

Tatsächlich ist es aber so, dass kaum Firmen das machen.

Dominik

Das liegt daran, dass die Informationsasymmetrie nicht zu irgendwelchen kompetenteren oder, ich sag mal, Entscheidungsträgern durchdringt, die Budget-Verantwortung haben.

Dominik

Die wollen halt irgendwie Sachen, Projekte bekommen und die Projektmanager, die halt dann die Projekte bestellen oder bezahlen, die haben vielleicht schon mal von ihren Entwicklern irgendwie so ein bisschen was von Open Source gehört, das irgendwie sinnvoll wäre.

Dominik

Aber dann eine Ebene weiter oben sagen dann ganz viele einfach so, ja, nee, aber das bringt uns das irgendwas, das sehen die nicht so, ne?

Dominik

Das ist schwer.

Dominik

Aber so das ist einmal die Idee eigentlich so.

Ines

Also ich meine, es gibt ja verschiedene Versuche, das irgendwie zu lösen.

Ines

Es ist immer ein bisschen problematisch, also es ist halt nicht einfach.

Ines

Und ich glaube auch, einerseits, man sieht schon, es ändert sich was auch in großen Firmen, denn die ganzen, dieses Klischee vom alten Manager, der irgendwie kaum Computererfahrung hat, das stirbt ja langsam aus.

Ines

Du hast jetzt Leute im Management, die sind in ihren 40ern, die programmieren seit ihrer Jugend.

Ines

Das ist jetzt nicht mehr.

Ines

Und eben auch diese Idee von so dummem Management, das irgendwie keine Ahnung hat.

Ines

Gibt es immer noch, natürlich, aber in vielen Bereichen hast du halt Leute, die kennen sich aus mit Technik.

Ines

Und denen kannst du auch nicht mehr irgendwelchen Schwachsinn andrehen unbedingt.

Ines

Und die haben da auch Meinungen zu, zum gewissen Grad.

Ines

Aber ich glaube, mit uns Open Source ein Problem ist, natürlich, es gibt ja keine wirkliche.

Ines

Das ist ja alles nicht wirklich standardisiert.

Ines

Es gibt verschiedene Projekte, die aus den verschiedenen Motivationen heraus entstehen.

Ines

Und manche haben natürlich sind natürlich jetzt mittlerweile gefördert von einer Stiftung.

Ines

Das ist ja die Tatsache für viele dieser Scientific Computing-Geschichten auch im Python-Ökosystem.

Ines

Und dann gibt es aber andere Projekte.

Ines

Okay, das ist halt, irgendjemand hat das mal entwickelt, der hatte da Spaß dran.

Ines

Das wurde populär.

Ines

Und ja, jetzt sitzt da jemand mit einem erfolgreichen Projekt anders unbedingt direkt zu etwas kommerziell daraus.

Ines

Und das kann man ja auch niemand, dem Entwickler nicht unbedingt anlasten.

Ines

Okay, good.

Ines

This is halt normal so and okay, the firm, what willst du that machine?

Ines

It's not drauf an auf die motivation that to an open source project.

Ines

There are other projects where firms, okay, cool, I entwick this and I have a motivation that when that's popular, can I this for my career nutrients?

Ines

Um, hey, da kriege ich einen besseren Job.

Ines

Funktioniert ja auch oft.

Ines

Oder in unserem Bereich, we have, die Idee war immer, dass wir eine Firma gründen and we wollen etwas machen in diesem Bereich and in diesem Bereich arbeiten.

Ines

Und die Tatsache, okay, Spacey is Open Source und das ist auch strategisch so und das ist uns sehr wichtig.

Ines

Aber das ist eben natürlich auch Teil unserer generellen Strategie und wir sagen, okay, wir bauen, wir machen jetzt nicht so ein Open Core-Ding, wo du halt für bestimmte Features zahlen musst, sondern wir sagen, hey, hier ist unsere Open Source Bibliothek, die ist gut, du kannst sie testen, du kannst damit Dinge bauen.

Ines

Wir geben sie dir gratis, weil wir auch glauben, okay, das, wo der meiste Wert drinsteckt, sind die Daten.

Ines

Das ist nicht unbedingt deine speziellen Daten, die man auch gar nicht unbedingt so verkaufen kann.

Ines

Den Algorithmus und die Bibliothek geben wir dir gratis.

Ines

Und wenn du unsere Sachen gut findest und damit Dinge baust, haben wir andere Produkte, die dir auch gefallen würden, wenn du ein Spacey Power User bist zum Beispiel.

Ines

Wenn jetzt deine Firma ein System auf Spacey aufbaut, dann willst du meistens auch deine Systeme trainieren und dann willst du Daten sammeln.

Ines

Und dann hast du vielleicht auch Interesse an Prodigy und anderen Dingen, die wir drauf aufbauen.

Dominik

Kann Spacey Emotionen erkennen?

Jochen

Ja, klar.

Ines

Das ist eine, das ist also so als allgemeine Frage.

Ines

Ist jetzt erstmal meine Antwort.

Ines

Nein.

Ines

Aber das ist halt sehr aufgeladene Emotionen ist halt auch immer sehr abstrakt.

Ines

Und es ist auch was, was sich überhaupt nicht sehr gut generalisieren lässt.

Ines

Du kannst natürlich sagen, oh, wenn du, du kannst bestimmt ein System trainieren auf the basis of entsprechend Wörtern, ausdrücken, wie things presented, vorher to say in which emotional rich thing a text is.

Ines

They say, Oh, here's sentiment analysis for all this.

Ines

And self positive or negative is, or what emotion hinter when you're messing könntest, is unglaublich subjektiv and unglaublich them spezifisch.

Ines

Also, ein Beispiel, was ich zum Beispiel, glaube ich, in my talks manchmal verwende, is du hast zwei Sätze.

Ines

Ich liebe Katzen und ich hasse Katzen.

Ines

Sind diese zwei Sätze ähnlich oder nicht ähnlich?

Ines

Und teilweise frage ich, okay, kannst du gut Publikum fragen und meistens hast du so vielleicht so 50-50.

Ines

Und für beides kannst du beides kannst du begründen.

Ines

Wenn du, wenn ich jetzt irgendwie generell Text analysiere, relativ zu allem, was ich in der Sprache, in der deutschen Sprache sagen könnte, ist es unglaublich ähnlich.

Ines

Zwei Sätze, die kurz sind und meine Haltung gegenüber Katzen ausdrücken.

Ines

Das ist unglaublich ähnlich.

Ines

Unglaublich speziell.

Ines

Im Vergleich zu allem anderen, was ich hätte sagen können.

Ines

Aber wenn du jetzt, was weiß ich, eine Dating-App entwickelst und du möchtest irgendwie gucken, ob zwei Leute aufgrund ihrer Profile zueinander passen, möchtest du das unglaublich als sehr unähnlich ansehen.

Ines

Weil zwei, ein Katzenhasser und ein Katzenliebhaber passen wahrscheinlich nicht zusammen.

Ines

Das ist komplett polare Unterschiede.

Ines

Und so ist es auch mit eigentlich sehr, sehr vielen anderen Dingen, die man vorhersagen kann with Machine Learning.

Ines

And eben auch sentiment and emotion.

Ines

And yeah.

Ines

Ich finde es vermittelt auch so ein bisschen das falsche Bild, eben to say, oh, we can das jetzt mit einem vortrainierten Modell lösen.

Ines

Du kannst das lösen, wenn du es eben wirklich speziell zuschneidest auf das, was du machst.

Dominik

Okay, also ob der Nachinformationswert positiv oder negativ ist, kriege ich dann für das jeweilige Unterfach.

Jochen

Hängt davon ab, wenn ich jetzt zum Beispiel eben, auf was ich spekuliere, wenn ich jetzt zum Beispiel Gewinn daraus ziehen möchte, wie sich der Kurs in Zukunft von irgendeinem Unternehmen entwickelt, dann spielt es halt eine Rolle, ob ich jetzt irgendwie long sozusagen ein Video oder ob ich das Ding short zählen möchte.

Jochen

Und es kann halt für mich irgendwie unter Umständen eine sehr gute Nachricht sein, wenn Privatanleger in GameStop-Aktien jetzt plötzlich reingehen oder sehr schlecht.

Ines

Das Beispiel ist eigentlich auch ganz gut, weil das illustriert auch so ein bisschen, was man mit Machine Learning gut lösen kann und was eben zum Beispiel nicht.

Ines

Also wir hatten, glaube ich, mal ein Beispiel, wo jemand versucht hat auch, ich glaube es ging so um so supply chain risk and management, das ist auch sowas klingt total, klingt ein bisschen öde, aber ist tatsächlich was, was viel wert ist.

Ines

When you eben sagst, okay, du hast jetzt hier einen Händler in China, von dem beziehst du Waren, mit denen du dann irgendwas machst und dann hast du hier jemanden in Russland und du möchtest da, und die importieren aber von da und da und du möchtest dann wissen, wenn jetzt da und da ein Streik ist oder hier irgendwie ein Schiff untergeht oder so, wird das in deiner Zukunft in der Zukunft zum Beispiel dein Unternehmen beeinflussen oder so.

Ines

Und das kannst du zum Beispiel ein Teil davon ist, du möchtest dann Nachrichten analysieren und gucken, was ist los in, es kann ja sein, in irgendeinem kleinen Ort in was weiß ich, wo jetzt zufällig gerade irgendwas hergestellt wird.

Dominik

Yeah, wenn die Nachrichten Kategorie, Emotionen katastrophal werden würde, möchtest du das für den lokalen Ort dann wissen?

Ines

Yeah, oder irgendwie da und da passiert was, das möchtest du wissen und dann irgendwie zusammenhören.

Ines

Und genau, also es gab irgendwo ein ähnlicher Fall, war das.

Ines

Und es ging einem auch darum, die Firma wollte rausfinden, okay, was ist jetzt gut für ihr Unternehmen?

Ines

Und das ist natürlich unglaublich abstrakt.

Ines

Und der erste Schritt war, okay, die haben dann Trainingsdaten erstellt, wo sie alles, was gut für ihr Unternehmen ist, hervorgehoben haben.

Ines

Inclusive things, die komplett abstract waren, also jetzt irgendwie, or things that schlecht sind for the eighteen schon.

Ines

When your concurrent irgendwas on the market bring or so, is that schlecht for dich.

Ines

And that model will not unbedingt in the language sein, so to generalism and to wish, the and the firm is dein Konkurrent.

Ines

And the Tatsache, dass die a product veröffentlichen, ist schlecht.

Ines

But the Tatsache, dass vielleicht dein Lieferant was veröffentlicht, ist gut.

Ines

So funktioniert es einfach nicht.

Ines

Und so das wird auch ein bisschen klarer, wenn du dir halt überlegst, okay, wie funktioniert das Modell und auf welcher Basis trifft das diese Vorhersagen?

Ines

Was guckt sich das an?

Ines

Worauf basiert das?

Ines

Wie wird quasi die Information da engodiert?

Ines

Und das sind halt, und da geht es dann wieder zurück in so, okay, wie breche ich das runter?

Ines

Oder okay, du kannst sagen, ich möchte ein Modell trainieren, das, weiß ich nicht, Kleidung für Kleidung für Erwachsene, Kleidung für Kinder, Kleidung für alte Leute oder so erkennen kann und entsprechend ordnet.

Ines

Funktioniert wahrscheinlich nicht so gut, wie du sagst, oh, ich möchte nur generell Kleidung erkennen und hab dann andere Prozesse, die das so ein bisschen weiter runterbrechen.

Ines

Denn der Kontext gibt da oft nicht so viel her.

Ines

Und viel benötigt unglaublich viel Wissen und ist noch nicht mal so eindeutig.

Jochen

Katastrophale Beispiele waren immer sowas aus einer Aus einer Sicht von einem Redakteur sozusagen oder wie man das verkaufen möchte, macht das durchaus Sinn, dass man Handys mit und ohne Vertrag in zwei unterschiedliche Kategorien packt.

Jochen

Aus Sicht von Machine Learning oder ist das scheiße, weil das funktioniert einfach nicht richtig.

Ines

Genau, genau, sowas.

Ines

Okay, gut, das kannst du dann vielleicht später machen oder du hast eine Datenbank, wo du diese Information abrufst.

Ines

Aber selbst wenn es neue Modelle, Architecturen und eben auch vielleicht vortrainierte Gewichtungen gibt, die das eben vereinfachen, is immer noch die Frage, okay, willst du das tatsächlich so los?

Ines

Du kannst that problem unglaublich complex formulation, quasi in the machine learning, then there's a really nice model draft, that then have crass-rechner and good result.

Ines

When it's actually this structure or a bit logical to break it.

Ines

And if you just so much as 1-2% in genuine, can tatsächlich a really grossen machen.

Ines

Generell.

Ines

Also, this is a growth.

Ines

But man macht es sich viel schwerer, wenn du halt ein Problem nicht definierst.

Ines

Oder so when du es halt dem Modell schwerer machst, als du es müsstest.

Ja, ja.

Jochen

Aber im Grunde so ein bisschen eben dieses Modell bei Spacey klang für mich auch so nach dem, nach das ist ja auch ein Modell, das viele Open Source Projekte oder viele Leute, die dann mal ein Open Source-Projekt, das dann erfolgreich geworden ist, gestartet haben, womit es ja dann gleich verdient, halt sozusagen so ein bisschen Consulting.

Jochen

Also es ist bei Spacey ein bisschen anders mit dem Annotationstool, aber es ist halt auch im Grunde so Dienstleistungen um das Open Source Projekt herum quasi.

Ines

Ja, also generell, was eine Sache, also wir haben anfangs mal ein bisschen Consulting gemacht, vielleicht, also dann haben wir uns hauptsächlich auf Produkte spezialisiert.

Ines

Vielleicht machen wir in Zukunft mal ein bisschen mehr, weil es eigentlich immer ganz cool ist, auch so ein bisschen die Connection zu haben zu den Nutzern.

Ines

Aber ja, eine Sache, die uns immer ganz wichtig war, war Support, finde ich, immer bei vielen Dingen ein bisschen kritisch.

Ines

Also es gibt Dinge, so Infrastruktur oder so.

Ines

Ja, gut, da brauchst du, da macht es Sinn, jemanden zu haben, dem du bezahlst, der dir das dann alles einrichtet.

Ines

Aber bei anderen Tools, vor allem Entwickler-Tools, wir möchten ja, dass es Tool auch wirklich benutzt wird.

Ines

Es ist gut für uns, wenn natürlich Leute unsere Open Source Tools benutzen.

Ines

Aber wenn jetzt unser Hauptgeschäftszweig Support ist, bedeutet das natürlich, dass wir mehr verdienen, wenn Leute mehr Support brauchen.

Ines

Aber natürlich, wenn Leute mehr Support brauchen, dann verdienen wir aber auch andererseits weniger, weil es dann natürlich viel weniger Leute das Ding nutzen.

Ines

Und ich finde es immer ein ganz komischer Kreislauf, der meiner Meinung nach nicht so gut funktioniert für viele Entwickler-Tools.

Ines

Aber natürlich, Dinge drumherum, ist gut.

Ines

Und Open Source ist ja auch eine gute Art und Weise, zu zeigen, hey, wir können gute Software bauen.

Ines

So, also wenn man das und wenn man es strategisch so angeht, kann es gut sein.

Ines

Also ich bin jetzt nicht der Verfechter, der sagt, oh, jeder sollte jetzt hier seine ganze Freizeit mit Open Source-Projekten verdienen und quasi gratis für Firmen arbeiten.

Ines

Aber es ist durchaus so, dass man es auch strategisch angehen kann und das auch ein Pfad sein kann, ja, erfolgreich zu sein und auch was zu machen, was vielleicht einem Spaß macht.

Jochen

Ja, nee, so im Prinzip ist das ja super, genau.

Jochen

Also das ist ja eigentlich so, würde ich ja schon mal ein bisschen so den Traumleben irgendwie beschreiben wollen, weil das ist ja, ich meine, das stellt man sich halt so vor.

Jochen

Man kann halt das tun, was man möchte und verdient damit halt genug Geld, dass das halt möglich macht.

Jochen

Und wenn das funktioniert, ist es natürlich großartig, ja.

Ines

Ja, ich meine, also ich dachte, man muss halt schon, ich glaube, es macht Sinn, es auch so anzugehen, dass man halt auch, man sollte schon ein Ziel haben, wenn man ein Projekt startet.

Ines

Und ich glaube, es ist auch nicht falsch zu sagen, okay, ich gehe das an, entweder ja, ich hab ein Open-Source-Projekt, ich möchte, ich sage Leuten, hey, benutzt das.

Ines

Das ist ja auch eine Sache.

Ines

Okay, sagst du Leuten, mein Projekt ist geil, benutzt das, ihr solltet da alles drauf aufbauen, oder sagst du, oh, das ist nur so ein Lobby-Projekt, ich habe meinen Code einfach veröffentlicht und wenn jemand anders das nützlich findet, benutzt es gerne.

Ines

Oder dieses ein bisschen oldschooligere Modell, wir bauen was zusammen.

Ines

Das sind so für mich so die drei Arten von Open Source.

Ines

Einmal, okay, ich habe was gebaut, wenn jemand, ich gebe es dir umsonst, wenn du Lust hast, vielleicht findest du es ja nützlich.

Ines

Oder wir bauen als Community, entwickeln wir was gemeinsam, oder wir haben ein Produkt entwickelt und wir geben es euch umsonst.

Ines

Und ich glaube, davon hängt es halt auch ab, wie ja, die Erwartungen, die man als Nutzer haben sollte an das Projekt.

Ines

Und ich glaube, das wird halt auch oft nicht offen kommuniziert.

Ines

Und da, das ist, wo viele der Missverständnisse passieren, wenn man eben, ja, ein so ein persönliches Projekt betrachtet wie ein kommerzielles Projekt oder ein kommerzielles Projekt betrachtet wie so ein Community.

Ines

Oder wenn

Ines

die Nutzer oder die Maintainer gar nicht sicher sind, was sie überhaupt sind.

Jochen

Ja, ja, ja.

Jochen

Das hört man dann immer von, das ist halt genau dann wahrscheinlich dieser Missmatch, dass dann die Nutzer denken, es ist ein Produkt, wo sie dann Support einfordern können und die Mitarbeiter denken, warum ich andere Leute haben Freizeit, warum habe ich eigentlich keine, warum sitze ich immer und muss irgendwie kostenlos Dienstleistungen für Leute machen, die mich werfen.

Ines

Das ist ja nicht unbedingt immer der Respekt da, to sagen, oh yeah, that's just jemand in such a freizeit.

Ines

Sondern yeah, I don't have support.

Ines

And in manchen Sachen, okay, when man halt the maintainer to be good, also GitHub has GitHub Sponsors and there are other workers, but it can also in many situations problematic sein.

Ines

For all it is not these betrayal.

Ines

When you have a kind of enter body, you saw, hey, you have a hobby project, that has of a bit of popularity gone, there are a few firms and they just five a month, that wirst du not unbedingt and that zahlinst.

Ines

But of all these firms just not iron nerving user of deems tracker, that are just deine quasi.

Ines

Or they fühlen sich zumindest so if jemand stellen kann an dich, weil they 5 euro zahlt eine andere Frage.

Ines

Aber die fühlen sich, als wären sie deine Kunden und sagen, oh here, nee, wenn du jetzt diesen Bug nicht fixst bis morgen, dann ziehe ich aber hier meinen Sponsorship zurück.

Ines

Also das kann auch, das ist jetzt nicht so das Allheilmittel, das kann auch, glaube ich, durchaus Dinge noch komplizierter machen.

Ines

Und ja, also ich habe jetzt keine Lösung dafür, aber

Jochen

es gibt wahrscheinlich keine einfache Lösung dafür.

Ja.

Ines

Also ich meine eine Sache, was ich sage, ich bin der Meinung, dass Open Source quasi das zum Beispiel staatlich gefördert werden sollte.

Ines

Also zumindest, oder wenn wir in so einem System sind wie in Deutschland, finde ich, dass die Bundesregierung finanzielle Mittel dazu zur Verfügung stellen, die eben tatsächlich in die Open Source Entwicklung fließen sollen.

Ines

Oder wir sollten das, wir sollten quasi Open Source als Common Good.

Dominik

Mit der GIScanne oder kuratiert.

Ines

Das ist halt eine Frage, die das Problem ist halt auch, okay, momentan, wenn du dir so anguckst, okay, was wird so entwickelt, wer bekommt Zuschläge für die Entwicklung von was und wie funktioniert das dann am Ende und wie sieht das denn aus?

Ines

Also ich finde, ich glaube schon eine Lösung, wo da jemand sitzt, der weiß nicht, der Open Source Minister sitzt und sich die Open Source Projekte aussucht, finde ich auch problematisch.

Ines

Ich glaube nicht, dass das etwas ist, was wir möchten.

Ines

Ich kann mir auch momentan keinen Open Source Minister vorstellen.

Ines

Oder es gibt nur sehr wenige politisch aktive Menschen momentan, die ich mir vorstellen könnte als Open Source Minister.

Jochen

An die Steuer nicht mehr so gut, Open Source jetzt schade, der wäre doch gut geeignet gewesen.

Ines

Ja, aber ich stelle dir jetzt vor, du hast dann so ein Äquivalent von Horst Seehofer sitzen als Open Source Minister.

Ines

Ich glaube, das wollen wir alle nicht.

Ines

Aber wie gesagt, ich habe jetzt noch kein politisches Programm ausgearbeitet, das ich sich hier präsentieren möchte, aber ich glaube, das ist auf jeden Fall eine Richtung, die ich

Jochen

weiß nicht, ich hätte mal überlegt, das wäre doch ziemlich einfach, das zumindest mal in die Anforderungen von irgendwelchen öffentlichen größeren Projekten reinzuschreiben, dass halt selbstverständlich, wenn das halt mit öffentlichen Mitteln finanziert wird, auch dann als Infrastruktur wieder zurück an die Öffentlichkeit geht.

Jochen

Aber ja, keine Ahnung.

Ines

Ja, das würde ich auch unterstützen, vor allem, ja, aber ich kann mir auch gut vorstellen, warum die das nicht möchten.

Ines

Aber.

Jochen

Ja, ja, klar, also dass die Auftragnehmer das nicht möchten, das kann ich mir auch gut vorstellen, aber es ist halt, ja.

Ines

Ich meine, ich könnte mir auch vorstellen jetzt vor, manche dieser öffentlich finanzierten Projekte, auch die man dann so nur als Nutzer mal zu sehen kriegt, wenn man mit denen interagiert.

Ines

Und stell die mal, ja, oder sowas jetzt zum Beispiel, auch selbst so eine was nicht, eine App oder irgendein Portal, irgendwas wird entwickelt, da wird ordentlich viel Geld reingehen und okay, es gibt auf jeden Fall ein Argument, zu sagen, das sollte Open Source sein, damit wir das auch sehen können.

Ines

Zumindest jetzt nicht die ganze kritische Infrastruktur oder so, aber grob okay, wie funktioniert das?

Ines

Was ist dahinter?

Ines

Oder vielleicht ein paar Details, okay, wenn die jetzt irgendwelche Modelle trainieren, dann wäre es schon gut, ein bisschen mehr Informationen dazu zu haben, was da jetzt reinfließt.

So wäre das gebaut.

Jochen

Sind da überhaupt diese ganzen Fragen, die man eigentlich mal berücksichtigen sollte, sind die denn berücksichtigt worden?

Jochen

Hat da sich jemand drüber nachgedacht?

Ines

Ja, wahrscheinlich nicht.

Ines

Und das wäre schon gut, aber ja, aber ich glaube, das würde auch, ja, es gibt da auch so ein ganzes neues Genre an Technikjournalisten, die sich wahrscheinlich den ganzen Tag damit beschäftigen könnten, die Open Source Projekte, die staatlich geförderten Open Source Projekte auseinanderzunehmen und zu analysieren.

Ines

Was ja auch nicht schlecht wäre.

Ines

But yeah, but ich mein es gibt halt when man sich so machine learning anguckt, es gibt ja nicht wirklich standards that manbringen könnte.

Ines

And it is jaw.

Ines

And it's very many things that are get tested wurden.

Ines

Oder what a corpus on trainingsdaten, when there is a licence has, what does that for modelle that you trainierst?

Ines

There are modelle where you at the original Daten rekonstruieren kannst.

Ines

That is, would you als Laie saga, ein relativ klarer Fall, okay, that's not really not, when the data not vergbar are.

Ines

Dann gibt es aber andere Dinge, wo du, okay, nur wie abstrakt sollten diese Gewichtungen sein, die du trainierst, um halt das Argument machen zu können, das repliziert jetzt nicht unbedingt die Originaldaten.

Kann man das überhaupt sagen?

Ines

Aber die Daten setzt Bilder, wenn jetzt Instagram oder Facebook sagt, oh, wir trainieren jetzt unsere Modelle anhand von Profilbildern unserer Nutzer.

Ines

Geht das, geht das nicht?

Ines

Können die das dann verwenden?

Ines

Kannst du einfach das Internet scrapen und dann da ein Modell veröffentlichen, das dann alle möglichen Firmen benutzen.

Ines

Und wenn irgendwas ist, wäre es schuld, du, die Firmen, das sind alles Fragen, die haben.

Jochen

Ja, das ist sehr unklar.

Ines

Da kann man sich drüber auslassen.

Ines

Ich bin, wie gesagt, ich bin bleiben, habe da nur Meinungen oder Ideen zu, aber auch da kommt es ja gar nicht drauf an.

Ines

Es ist am Ende, es gibt ja keine, es gibt kaum Entscheidungen dazu, es gibt kaum Fakten dazu.

Ines

Es ist halt, du musst halt gucke.

Jochen

Naja, das wird noch eine ganze Zeit lang dauern, bis das einigermaßen.

Dominik

Bis das überhaupt jemand da irgendwo verstanden hat.

Ja, das ist

Jochen

erstmal ein Bock, wahrscheinlich der Weg.

Ines

Selbst so diese, diese Trolley-Probleme von wegen hier, okay, wer ist schuld, wenn das selbstfahrende Auto einen Menschen überfährt?

Ines

Das gab's ja gab's ja schon.

Ines

So, wer ist da schuld?

Ines

Die Firma, die das Auto hergestellt hat, die Person, der das Auto gehört, der Entwickler, der dieses Modell trainiert hat, der Person, die auf Mechanical Turk für 3 Dollar die Stunde das

Jochen

halt falsch gelabelt hat irgendwie.

Jochen

Tja.

Ja, ja, unklar.

Ines

Das sind auf jeden Fall interessante Fragen.

Jochen

Ja, ich denke, der Weg zu sinnvollen und so Common Sense irgendwie Umgang damit im Alltag wird gepflastert sein mit einem Haufen Fehlentscheidungen, absurden Situationen und komischem, ja.

Jochen

Wie bei allem, ja.

Jochen

Ja.

Dominik

Das ist auf jeden Fall ein entspannender Ausblick in die Zukunft.

Jochen

Ja, es ist alles nicht ganz schlecht.

Jochen

Es ist alles nicht superschön.

Dominik

Ja, ich finde solche Sachen sehr wertvoll.

Das passiert.

Jochen

Schön, dass wir mal drüber reed.

Dominik

Nein, wirklich, was sie besser geschrieben haben, du hast es, was uns irgendwie weiterbringt.

Ja, ja, ja,

Jochen

es hilft dabei, so Gefühle zu kriegen.

Jochen

Das auf jeden Fall.

Dominik

Ich habe immer die Hoffnung, dass das irgendwann besser wird und nicht schlechter.

Jochen

Ja.

Also ich meine, objektiv betrachtet.

Ines

Dinge werden ja besser.

Ines

Also natürlich ist es immer, man hat das subjektive Empfinden und es gibt natürlich andere Probleme.

Ines

Auch wenn du, okay, wenn du die Gesellschaft besser geht, auch dem Einzelnen geht es ja besser, wenn du so generell den Stand der Welt dir anschaust.

Ines

Du sagst, okay, haben wir, wie viel, wer wie viele Menschen haben wir, die unter der Armutsgrenze leben.

Ines

Aber natürlich ist das nicht die einzige Art und Weise, wie du sowas quantifizieren kannst.

Dominik

Ja, vor 100 Jahren haben wir Leute Menschen noch im Zoo ausgestellt.

Dominik

Das ist halt einfach, ja.

Ines

Ja, natürlich.

Ines

Oder die Lebenserwartung, der generelle Lebensstandard ist natürlich besser, aber das heißt ja eben auch nicht, dass man sagen kann, ach ja, ist ja alles super, im Schnitt geht es allen besser.

Ines

Oder du bist weniger arm als vorher, bist aber immer noch arm.

Ines

Also es ist nach wie vor ein Problem.

Ines

Und wir haben wir denken uns auch mal neue Probleme aus.

Dominik

Ja, das eskaliert natürlich auch an einigen Stellen immer völlig.

Dominik

Da muss man gucken, dass man das irgendwie wieder einfangen kann oder so.

Dominik

Aber ja, also ich habe nicht das Gefühl, dass das schlechter wird.

Dominik

Das ist so punktuell, so ein Wabern und so.

Dominik

Aber vielleicht geht es ja durch solche Sachen halt in die richtige Richtung, ja, dass man dadurch besser Wissen verteilen kann, auch einfach.

Dominik

Weil ich glaube, so verteiltes Wissen ist vielleicht eine der Grundlagen von dem, was wir vielleicht mit Freiheit da meinten oder so?

Dominik

Ich weiß nicht, wovon wir die ganze Zeit geredet haben.

Jochen

Ich weiß nicht, ich glaube, es ist ganz schwer zu sagen, wird das jetzt irgendwie, hat das so ein eben so technische Fortschritte, haben die aus sich heraus schon so in sich emanzipatorisches Potenzial?

Jochen

Oder dienen sie doch dann nur dazu, dass Leute irgendwie noch reicher werden, die vorher schon relativ reich waren?

Jochen

Schwer.

Jochen

Also ich meine, was man vielleicht sagen kann, ist, dass in Zeiten, in denen sich viel ändert, gibt es halt auch mehr Chancen für Leute, die halt sozusagen was machen möchten.

Dominik

Ja, oder wen nehmen wir die Antwort, die wir immer geben können, it depends.

Jochen

Ja, stimmt.

Ines

Ich meine, es stimmt natürlich oder auch jetzt in der aktuellen Situation, wo auch Remote Work normalisierter wird, wo es vielleicht ein bisschen weniger, immer war es ja durch das Internet, das Internet hat es immer weniger relevant gemacht, wo man denn gerade physisch war oder schon allein die Tatsache, dass wir hier, wir sitzen hier, nehmen Podcast auf, ich bin in Australien, ihr seid in Deutschland, es läuft, irgendjemand hört sich das an, der ist was weiß ich wo, und das geht alles.

Ines

Und jetzt, okay, es wird weniger wichtig, wo jemand arbeitet, wo jemand leben möchte.

Ines

Ja, voll gut.

Ines

Das ist auf jeden Fall theoretisch eine sehr positive Entwicklung oder kann eine sehr positive Entwicklung sein, wenn es entsprechend genutzt wird.

Dominik

Ich finde, das ist ein sehr tolles Schlusswort, ehrlich gesagt.

Jochen

Ja.

Jochen

Nee, klingt gut.

Dominik

Egal, wo ihr uns also hört.

Dominik

Ob ihr nachts, tags, über, morgens, mittags, abends im Flieger oder im Boot oder auf der Couch beim Einlauf.

Dominik

Zum Einschlafen, habe ich auch schon gehört.

Jochen

Denkt daran, es ist der Fortschritt, der gerade durch eure Kopfhörer in euer Gehirn ausstrahlt.

Dominik

Ganz genau.

Dominik

Vielen Dank, Ines, dass du heute dabei warst.

Jochen

War sehr schön.

Ines

Ja, danke für die Einladung.

Dominik

Ja, bleibt uns gewogen und schalt wieder rein.

Tschüss.

Tschüss.