?

Erweiterte Suche

Zeitraum

oder Veröffentlichung von/bis

Sprache

Dauer der Episode von/bis

Forschergeist

https://forschergeist.de

share

claim!

report

episode 95: FG095 Federated Secure Computing
[transcript]

Offene Software-Werkzeuge zur Forschung an privaten Daten ohne Aufgabe der Privatsphäre

share

June 21, 2022 1h18m

00:43 timpritlove

Hallo und herzlich willkommen zu Forschergeist, dem Podcast des Stifterverbands für die deutsche Wissenschaft.

00:48

Mein Name ist Tim Pritlove und ich begrüße alle zur 95. Aussage unserer Gesprächsreihe,

00:54

in der es heute mal etwas digitaler zugehen wird.

00:58

Hatten natürlich auch hier eine Menge digitale Themen schon.

01:02

Heute geht es ein bisschen ans Eingemachte, jetzt wollen wir mal so ein bisschen schauen,

01:06

wie wir denn so die aktuellen Herausforderungen angehen können,

01:10

die sich insbesondere durch die hohe Verfügbarkeit von Daten auf der einen Seite

01:15

und dem hohen Bedarf an Datenschutz und natürlich auch Privatsphäre so ergeben.

01:22

Ja und dazu begrüße ich erst mal meinen Gesprächspartner, nämlich Hendrik Ballhausen, hallo.

01:25 hendrikballhausen

Hallo, danke für die Einladung.

01:27 timpritlove

Ja, herzlich willkommen bei Forschergeist.

01:31

Hendrik, du bist bei, ja, du bist an der Universität, der LMU, der Ludwig-Maximilian-Universität München.

01:40 hendrikballhausen

So ist das.

01:42 timpritlove

Im medizinischen Bereich oder?

01:43 hendrikballhausen

Ja, das ist richtig.

01:45

Ich bin eigentlich selbst gar kein Mediziner, aber auf verschlungenen Wegen bin ich da gelandet.

01:50 timpritlove

Du bist also jetzt in der Medizin, in welcher offiziellen Bezeichnung?

01:57 hendrikballhausen

Tagsüber, wofür ich bezahlt werde, ich leite die Forschungsverwaltung an der medizinischen Fakultät der LMU.

02:04

Das heißt, sowohl für den klinischen Bereich wie auch für den vorklinischen Bereich

02:07

und helfe da letztlich unserem Dekan, unserem Forschungsdekan bei allen Fragen,

02:13

die die Forschung in irgendeiner Weise berühren.

02:15 timpritlove

Aber du bist kein Mediziner?

02:18 hendrikballhausen

Das ist richtig.

02:19 timpritlove

Sondern?

02:20 hendrikballhausen

Bin einer dieser klassischen Physikerallzweckwaffen, die auf verschlungenen Wegen da hingekommen sind.

02:22 timpritlove

Aha so einer. Okay.

02:27

Und wie verschlungen waren denn die Wege?

02:28

Also was nimmt man denn da für eine Weg, um dann dort zu landen?

02:33 hendrikballhausen

Ja, nicht zu Hause nachmachen.

02:36

Also ich kreise eigentlich immer schon in irgendeiner Form um die Universität, die Wissenschaft.

02:41

Das fing an der Schule an, da hatten wir in Hamburg ein tolles Programm von der William-Stern-Gesellschaft,

02:47

die haben Schülerinnen an die Uni geholt, das war so das erste Mal,

02:51

dass ich mich in diesen Mikrokosmos verliebt habe eigentlich, ja.

02:56 timpritlove

Was ist die William-Stern-Gesellschaft?

02:58 hendrikballhausen

Die ist benannt nach einem jüdischen Gelehrten und das ist ein Zusammenschluss von Mathematik und Psychologiestudierenden,

03:07

die Schülerinnen von Hamburger Schulen zusammenholen und dann tatsächlich am Wochenende mit denen Mathe machen.

03:12

Das ist eigentlich keine gute Value Proposition???, würde man heutzutage sagen,

03:17

Mathe tauschen gegen Wochenende, aber mir hat das gut gefallen

03:20

und ich habe zum ersten Mal gemerkt, da gibt es eben eine Welt,

03:24

wo man sich mit vielen spannenden Dingen beschäftigen kann.

03:27

Ja und das hat mir sehr getaugt, da bin ich dann dabei geblieben.

03:30 timpritlove

Und dann ist es auch gleich in ein Physikstudium gemündet?

03:34 hendrikballhausen

/lacht/ Ja, auch da wieder, erst mal kam Jugend forscht, Mathe, Informatik,

03:41

spannende Sachen damals, wir haben Computergrafik gemacht,

03:43

was in den 90er Jahren ganz ein heißes Thema war, überhaupt natürlich noch nicht so wie heute,

03:50

wo in jedem Spiel also die 3D-Grafik perfekt ist, sondern das waren wirklich noch die Anfänge.

03:55

Und dann kam die erste Krise, der neue Markt im Jahr 2001 und dann habe ich mir überlegt,

04:03

vielleicht ist es doch besser, was zu studieren, was ein bisschen mehr ja Substanz hat als die Informatik.

04:11

Im Rückblick völlig falsche Entscheidung, aber damals war es richtig

04:14

und dann sollte es halt Physik sein, Physik ist ja auch Mathematik, ist auch Informatik,

04:17

aber handfester und ja, so bin ich dann nach Heidelberg gekommen und habe dort Physik studiert.

04:25 timpritlove

Okay.

04:26 hendrikballhausen

Eigentlich hätte es die USA sein sollen, aber ich habe Zivildienst gemacht,

04:30

da unterliegt man der Kreiswehrerfassung und der Urlaub wurde abgelehnt, um sich in den USA zu bewerben.

04:38

Ich habe dann noch mal gefragt, was passiert, wenn ich trotzdem ausreise.

04:41

Dann hieß es, sie werden bei der Einreise in Frankfurt verhaftet und ja, so ist es dann Heidelberg geworden.

04:46

Das war im Rückblick genau richtig.

04:49 timpritlove

Okay. Und in Heidelberg war dann das Physikstudium?

04:51 hendrikballhausen

Heidelberg war Physik, ja.

04:52 timpritlove

Okay.

04:53 hendrikballhausen

So richtig, wie man es sich vorstellt, Philosophenweg.

04:56 timpritlove

Und dann denkt man doch eigentlich viel übers Universum nach oder?

04:59 hendrikballhausen

Ja, vor allen Dingen auch, weil wir ja bei uns die Astrophysiker hatten ein Haus weiter.

05:05 timpritlove

Spannender Standort Heidelberg auf jeden Fall.

05:07 hendrikballhausen

Ja, er war das klein und das ganz große ganz nah beieinander.

05:13 timpritlove

Aber dazu kam es nicht, keine astronomische Karriere?

05:15 hendrikballhausen

Ja, da kam dann das Wissenschaftssystem dazu und wir haben uns eigentlich überlegt so gegen Ende der Promotion,

05:21

dass wir uns das doch nicht antun wollen.

05:25

Das waren so ein paar Freunde und wir haben gesagt, Physik finden wir super,

05:30

aber so wie Wissenschaft an der Universität gemacht wird, finden wir es nicht so super.

05:33

Dann sind wir alle woanders hingegangen.

05:36

Ich habe dann noch schnell VWL drauf gesattelt, Volkswirtschaft

05:40

und bin dann tatsächlich ein paar Jahre ganz aus dem Universitären verschwunden.

05:44 timpritlove

Was hat dir denn nicht gefallen daran, wie die Wissenschaft an der Universität gemacht wird?

05:49 hendrikballhausen

Ja, dass eigentlich extrem schlaue Leute, zu denen will ich mich jetzt gar nicht zählen,

05:54

aber die beobachtet man ja, also Leute, die viel besser sind als man selber,

05:58

die schon unglaublich Paper geschrieben haben, unglaublich was eingeworben haben,

06:02

dass die eigentlich sehr lange bitten und betteln müssen, um das tun zu dürfen,

06:07

was sie eigentlich am besten können und was ja eigentlich auch der Gesellschaft am meisten nutzt.

06:14

Und dass das eigentlich so als Gnade gesehen wird, da arbeiten zu dürfen unter teilweise sehr schwierigen Bedingungen.

06:20

Und da haben wir gesagt, nein, den Markt wollen wir nicht noch schlechter machen,

06:25

indem wir hier noch zusätzliche Arbeitskraft anbieten.

06:29

Sind dann ganz bewusst weggegangen, aber ist eine schwere Entscheidung,

06:31

weil man liebt das Fach ja, man möchte ja eigentlich ganz genau das machen,

06:37

aber man muss ja auch ehrlich vor sich selber bleiben.

06:39 timpritlove

Was meinst du mit wir?

06:40 hendrikballhausen

Ja, Freunde, Freunde, mit denen man dann zusammengesessen hat und überlegt hat,

06:45

tun wir uns das jetzt noch an, wollen wir jetzt noch Postdoc-Phase machen?

06:48

Der eine ist dann Lehrer geworden, viele sind in die Industrie gegangen oder in die Wirtschaft.

06:54

Und insofern ich kenne noch ein oder zwei, die dabei geblieben sind und ja, die sind immer noch in der Ochsentour.

07:03 timpritlove

Okay, aber dann gab es einen Ausflug in die Wirtschaft, der dann aber dann doch wieder zur Universität zurückgeführt hat.

07:07 hendrikballhausen

Ja, ja, ein paar Jahre was ganz anderes gemacht, dann kam Bereich Finanzen, dann kam die Bankenkrise 2008/2010.

07:15

Das war die nächste große Krise.

07:18

Und dann habe ich gedacht, eigentlich war es doch an der Uni am schönsten

07:23

und habe dann für mich diesen goldenen Mittelweg gefunden, nicht jetzt selber primär zu forschen,

07:28

aber anderen dabei zu helfen, zu forschen.

07:30

Und witzigerweise war dann plötzlich alles ganz einfach.

07:36

Also Forscher sein ist schwer, Forschung verwalten ist einfach.

07:41 timpritlove

Ist das so?

07:41 hendrikballhausen

Ja, war mein Eindruck.

07:43 timpritlove

Okay. Hat sich das bestätigt der Eindruck?

07:46 hendrikballhausen

/lacht/ Naja, zumindest ist man die letzten zehn Jahre sehr gut zu mir gewesen.

07:52 timpritlove

Okay.

07:54

Gut, also letzten Endes bist du dann doch in der medizinischen Fakultät der LMU gelandet

08:01

und wie hieß das, Forschungsverwaltung? Nein.

08:05 hendrikballhausen

Das ist der trockene Titel, ja Forschungsreferent würde man wahrscheinlich sagen,

08:08

wenn man dem Ganzen jetzt einen Namen geben wollte.

08:12

Ich weiß gar nicht, ob meine Stelle eine offizielle Bezeichnung hat.

08:15 timpritlove

Jetzt bist du aber dann sozusagen dann doch der Informatik wieder etwas näher gekommen.

08:22 hendrikballhausen

Ja.

08:24 timpritlove

Ist dann so eine späte Liebe in gewisser Hinsicht?

08:26 hendrikballhausen

Ja, ich meine, ganz damit aufgehört hat man ja nie, wenn man Nerd ist,

08:33

dann lässt man das nie ganz sein.

08:35

Ich meine, das ist ja auch was, was man ständig gebrauchen kann.

08:37

Also das habe ich in der Physik gebraucht, das habe ich in der Industrie gebraucht,

08:40

in der Wirtschaft habe ich das gebraucht und in der Medizin heute brauchen wir es natürlich auch total dringend.

08:47

Und deswegen der Weg nicht weit, dass ich mich auch um dieses Thema bei uns in der Fakultät ein bisschen kümmern sollte.

08:54 timpritlove

Ist ja auch, Medizin ist ja auch eine so der ersten Disziplinen gewesen,

09:01

die sich so im universitären Bereich mit der Informatik verheiratet haben.

09:05

Also ganz zu Beginn gab es halt so die reine Informatik als Studium

09:10

und später kamen dann halt diese ganzen Kombinationsstudiengänge dazu.

09:15

Da war es auf der einen Seite so die Wirtschaft und auf der anderen Seite die Medizin,

09:19

die eigentlich da so in der ersten Reihe stand.

09:22 hendrikballhausen

Ist immer die Frage, wen man fragt.

09:24

Also in Heidelberg gab es gar keine Informatik, da gab es Mathematik

09:27

und da war völlig klar, Informatik ist angewandte Mathematik.

09:31

Und wir haben im gesamten Studium keinen Computer gesehen.

09:34

Es lief über Beweise.

09:37

Wenn man die Statistiker fragt, an der LMU gibt es eine Fakultät für Mathematik, Informatik und Statistik,

09:44

wenn man die Statistiker fragt, dann ist maschinelles Lernen alles Statistik.

09:50

Und als Physiker würde ich natürlich sagen, dass die Physiker die ersten waren,

09:53

die nach dem Zweiten Weltkrieg die ersten Computer verwendet haben und damit nie aufgehört haben,

09:58

insofern könnte man auch behaupten, dass die Physik die ersten waren.

10:03 timpritlove

Klar, hängt alles zusammen, aber in der Medizin hat sich natürlich dann, wie auch in der Wirtschaft,

10:08

eben auch schnell gezeigt, okay hier gibt es praktische Anwendungen,

10:10

hier kann man der Disziplin als solcher etwas neues hinzufügen

10:16

und die ganze Domäne der Medizin noch mal ganz anders anschieben,

10:21

jenseits aller biologischen medizinischen Erkenntnisse.

10:27

Inwiefern ist das dann jetzt ein Thema für dich geworden?

10:31 hendrikballhausen

Ja, auf der einen Seite die eigene Forschung, also das habe ich dann halt doch nicht ganz sein lassen,

10:38

so wie die Kollegen halt bis abends ihre PatientInnen haben,

10:41

habe ich halt bis abends meine Aktenmappen und nach Feierabend geht es dann ans Paperschreiben.

10:47

Und auf der anderen Seite aber eben auch dadurch, dass ich mich für die Fakultät um diese Thema,

10:51

man darf ja nicht Digitalisierung sagen, man muss ja digitale Transformation sagen,

10:58

dass ich mich darum kümmern sollte und dann merkt man ja relativ schnell,

11:01

dass es schon unheimlich viel gibt und man merkt auf der anderen Seite,

11:05

dass es halt noch so ein paar Themen gibt, die wenig beachtet werden.

11:10

Und was halt total, wo es total viel schon gibt, das ist halt alles, was irgendwie in die Richtung geht,

11:19

Daten sammeln und Daten verarbeiten im weitesten Sinne.

11:21

Das machen ja die Leute auch schon wirklich, wirklich lange.

11:25

Und da, wo es halt jetzt gerade groß das Thema für alle ist, was jetzt neu kommt,

11:31

das ist halt künstliche Intelligenz, das ist maschinelles Lernen.

11:35

Und das, was noch gar nicht so da ist, das sind die Ansätze, die fragen,

11:39

ja, wie wollen wir denn eigentlich mit den Daten wirklich umgehen?

11:45

Wollen wir möglichst große Datensammlungen anlegen, wem gehören die Daten?

11:50

Früher war völlig klar, die Daten, die gesammelt, erhoben werden,

11:55

die gehören dem Arzt, die gehören dem Universitätsklinikum.

11:59

Nur irgendwann später kam dann sozusagen, ja wir sollten den Patienten zumindest um Consent bitten,

12:04

um Zustimmung bitten, dass uns diese Daten gehören dürfen.

12:07

Ja und heute fängt man so langsam an zu fragen, gehören die Daten vielleicht eigentlich der Patientin zunächst mal,

12:15

bevor der sie hergibt oder bevor sie sie vielleicht auch gar nicht hergeben möchte?

12:22

Und die spannende Frage dann eigentlich ist auch, wer behält die Hoheit über diese Daten?

12:31

Wer muss auch später noch irgendeiner Verwendung zustimmen?

12:34 timpritlove

Wenn wir über die Daten reden, was für Daten meinen wir denn jetzt?

12:42

Was ist denn so eigentlich der Datenbereich, der sich heute einem entgegenstreckt?

12:47 hendrikballhausen

Ja, also in der Medizin ist das eigentlich immer ganz ähnlich.

12:52

Das sind zunächst mal Daten, die die Patientinnen und Patienten beschreiben.

12:56

Die Demographics.

12:57

Also wie alt ist derjenige, wo kommt der her, körperliche Eigenschaften,

13:04

von Größe über Gewicht, Geschlecht, etc. pp., Herkunft.

13:10

Dann sind das Daten, die das akute Ereignis betreffen, also warum ist diejenige oder derjenige jetzt im Krankenhaus?

13:18

Was hat der, Diagnosen.

13:21

Und dann natürlich am Ende Aufzeichnungen über die Behandlung.

13:27

Man möchte ja auch letztlich lernen, ein lernendes System haben,

13:32

welche Therapieentscheidungen sind die richtigen.

13:33

Und dann die berühmten Endpunkte.

13:36

Wird der Tumor geheilt, gibt es eine Metastase, wird der Patient entlassen,

13:42

kommt der wieder nach einer Woche?

13:46

Das sind dann sozusagen die spannenden Endpunkte, auf die dann auch die meisten klinischen Studien gemünzt sind.

13:53

Und man muss sagen, dass im Bereich der Medizin das formalisierte Format das sind die klinischen Studien.

14:00

Das sind auch, sagen wir mal, die hochwertigen Daten, die unter wissenschaftlich strengen Gesichtspunkten gesammelt werden,

14:08

wo die Fragestellung im Vorhinein festgelegt ist, die Endpunkte im Vorhinein festgelegt wird,

14:13

wo man dann möglichst wenig „schummeln“ kann.

14:16

Denn dieses explorative Suchen in großen Datenmengen,

14:19

was ja beispielsweise heutzutage in der Wirtschaft sehr gern gemacht wird,

14:22

ob es jetzt um online-Marketing geht oder wenn Salesforce analysiert,

14:28

was sind gute Abläufe im Unternehmen, da wird ja zunächst mal in großen Datenmengen einfach gesucht,

14:32

finden wir irgendein Muster.

14:34

Und in der Medizin sind wir meisten oder sollten wir strenger sein

14:37

und sollten eigentlich mit einer wissenschaftlichen Forschungsfrage rangehen

14:41

und dann schauen, ob wir die tatsächlich in einer idealerweise doppelt verblindeten Studie

14:45

oder wie auch immer verifizieren können.

14:48 timpritlove

An der Stelle vielleicht kurze Anmerkung, Forschergeist Nummer 56 mit dem passenden Titel,

14:54

die digitale Medizin, da hatte ich mich mit Sebastian Kuhn unterhalten,

14:59

der ja im Prinzip auch genau das beklagt hat, dass eigentlich sehr viele Daten da sind so

15:03

oder sehr viele Daten sich im Prinzip anbieten und dass es jetzt eigentlich der nächste Schritt für die Medizin sein müsste,

15:11

mit denen halt irgendetwas anzufangen, einerseits, andererseits natürlich auch Apps,

15:16

zum Beispiel zur, ja gar nicht mal nur zur Diagnose, aber auch zur Diagnose

15:21

oder eben auch tatsächlich zur Behandlung für bestimmte Fälle oder als Therapiemaßnahme mit einzubringen,

15:28

da haben wir eine relativ breiten Bogen gespannt.

15:31

Jetzt ist natürlich klar, okay das Datenmaterial ist da, es ist, sagen wir mal,

15:37

ganz klar das klassischen personenbezogene Datum, was man hier vorfindet.

15:44

Und ich würde meinen, in der Wahrnehmung der Leute ist es so für sie so mit das persönlichste in gewisser Hinsicht.

15:52

Also auch so gefühlt sind das Daten, die einem sehr nahe sind, im wahrsten Sinne des Wortes natürlich,

15:59

wenn es um den eigenen Körper, die eigene Gesundheit geht,

16:07

so dass große Vorbehalte existieren in diesem ganzen Bereich.

16:10

Und man sieht ja auch, dass die ganzen Digitalisierungsmaßnahmen,

16:14

die im Gesundheitssystem bisher vorgenommen wurden, nicht sonderlich erfolgreich waren.

16:21

Also wir haben sehr schön gesehen jetzt in der Corona-Krise, wieviele Informationen nicht vorhanden sind.

16:30

Man weiß nicht, wie sind die Leute geimpft, man hat keine große Erkenntnis über die Symptome etc..

16:41

Also nicht überall, aber an vielen Stellen hätte man sich ja quasi mehr gewünscht, als letztlich da war.

16:49 hendrikballhausen

Ja, also ich glaube, das muss man wirklich differenziert sehen.

16:56

Es ist richtig, dass man häufig sich wünscht, dass mehr ginge,

17:01

aber es ist natürlich auch immer die Frage, zu welchem Preis?

17:05

Die Corona-Krise ist ein Beispiel, wo man natürlich sich aufgeregt hat,

17:10

dass vielleicht irgendwelche Gesundheitsämter Daten jetzt nicht ideal austauschen konnten,

17:16

aber es ist zugleich auch ein Paradebeispiel für etwas, was sehr gut funktioniert hat.

17:21

Beispielsweise diese Corona Warn App, die war ja ein Beispiel,

17:24

dass jetzt Millionen Menschen in sehr sehr kurzer Zeit sich verschaltet haben

17:31

und sich gegenseitig in einem, übrigens auch dezentralen Ansatz, gewandt haben.

17:37

Ein anderes Beispiel, was jetzt in der Öffentlichkeit sicherlich nicht so wahrgenommen wurde,

17:42

war, dass auch in dem sogenannten Netzwerk Universitätsmedizin,

17:47

das ist also ein Netzwerk, das binnen, eigentlich man muss sagen, Tagen und Wochen nach Beginn der Krise aufgesetzt wurde,

17:54

wo alle deutschen Universitätskliniker zusammenarbeiten, auch Datenplattformen geschaffen wurden,

18:00

dass die wirklich universitätsmedizinischen Daten sehr viel besser, sehr viel schneller als zuvor ausgetauscht werden konnten.

18:09

Also da ist auch wirklich viel geschehen, was man vielleicht von außen nicht sieht

18:13

und dass wir nach letztlich einem Jahr eines völlig neuen Krankheitsbildes nicht nur zur Diagnostik,

18:23

wir hatten ja ganz schnell auch Schnelltests, auch zuverlässige PCR-Tests,

18:28

und dass dann nach einem Jahr im Prinzip eine Prophylaxe zur Verfügung stand

18:34

und auch Therapieansätze, wenn man mal andere Erkrankungen sich anguckt,

18:37

das war ja eigentlich jetzt bei aller Kritik, weil uns das alle sehr betroffen hat,

18:41

das war ja eigentlich auch eine totale Erfolgsgeschichte.

18:44 timpritlove

Im medizinischen Bereich auf jeden Fall, also ganz klar.

18:48

Also allein die Entwicklung der Impfstoffe stellt ja auch an sich noch mal einen technologischen Durchbruch dar.

18:56

Trotzdem bei der Bewertung der Pandemie, der Lage, der richtigen Einschätzung

19:01

hätte man sich halt dann doch schon oft gerne auf detailliertere Daten gestützt.

19:05

Aber das ist halt genau das Problem.

19:08

In dem Moment, wo man mehr Daten möchte, erzeugt man natürlich eine ganze Menge Widerstand,

19:12

der teilweise vielleicht berechtigt ist, teilweise vielleicht auch unnötig ist,

19:18

weil es nicht wirklich in eine Privatsphäre eingreift, aber in diesem Spannungsfeld befindet man sich ja auf jeden Fall.

19:24 hendrikballhausen

Also du hast ja eingangs auch ganz richtige Sachen gesagt.

19:27

Also Gesundheitsdaten genießen ja auch vor dem Gesetz einen besonderen Schutzstatus.

19:32

Du hast gesagt, das sind mit die sensibelsten Daten, die es gibt, das ist richtig.

19:37

Zusammen beispielsweise mit jetzt Daten zum Beispiel über die sexuelle Orientierung,

19:40

gehören die zum privatesten, was wir haben.

19:42

Andererseits beobachtet man da natürlich auch eigentlich eine große Divergenz zwischen dem,

19:50

was die Gesellschaft für wichtig hält und was der einzelne für wichtig hält.

19:53

Interessanterweise, wenn man mit einzelnen Menschen spricht,

19:55

dann haben die in der Regel oft gar keine große Scheu, ihre Daten zu teilen,

20:00

wenn man ihnen richtig erklärt, wofür die da sind und ihnen auch erklärt, was mit den Daten geschehen wird.

20:08

Häufig sind diese Daten ja auch dann interessant, gerade wenn sie über eine größere Menge von Menschen erhoben werden,

20:14

und zumindest dann, wenn sie anonymisiert werden können

20:18

und nur eigentlich in aggregierter Form, das heißt, dass man jetzt Summen bildet,

20:23

dass man nicht über den Einzelnen mehr Datensätze hat,

20:24

sondern dass man nur sagen kann, so und so viele Menschen in Summe haben jetzt dieses Merkmal.

20:30

Dann wird das Problem auch sehr viel kleiner sehr schnell.

20:33

Andererseits und das ist ja auch das Paradoxe, an anderer Stelle geben wir diese Daten ja sehr viel bereitwilliger her.

20:41

Du hast Apps erwähnt, was unsere Smartphones über uns an Bewegungsprofilen,

20:48

auch Sozialprofilen, ökonomischen Profilen sammeln, indem wir einfach nur wischen

20:54

und uns gar nicht durchlesen, zu was wir da zustimmen, das ist Größenordnungen mehr als das,

21:00

was sozusagen nach schriftlicher Information und Unterschrift in einem Universitätsklinikum vielleicht über mich gesammelt wird.

21:06

Und vor allen Dingen natürlich auch mit einem ganz anderen Interesse gesammelt und verarbeitet wird für mich, nicht gegen mich.

21:13

Muss man ganz klar sagen, da kommt jetzt der Ökonom in mir durch,

21:16

je mehr ich über meinen Konsumenten weiß, desto mehr kann ich ihm sozusagen,

21:22

desto näher komme ich an seinen Reservationspreis ran, desto mehr Wohlfahrt kann ich ihm wegnehmen.

21:28

Das ist ja oft, dass wir heutzutage beobachten, wenn wir irgendwas kaufen,

21:31

dass wir uns gar nicht mehr freuen, weil das Unternehmen so geschickt war,

21:35

den Preis oder die Qualität der Ware so zu setzen, dass wir gerade noch bereit sind, das zu kaufen.

21:42

Und gar nicht das Gefühl haben, wir hätten jetzt irgendwie ein riesengroßen Schritt nach vorne gemacht.

21:47

Und das ist in der Medizin, muss man sagen, halt wirklich anders.

21:52

Zumindest in der universitären Medizin, das sind ja öffentlich-rechtliche Einrichtungen,

21:56

die keinen Profit machen, die haben in der Regeln wirklich ein wissenschaftliches Interesse.

22:03

Und da das die Forschenden zum großen Teil auch Ärztinnen und Ärzte sind,

22:06

die haben zuallermeist auch wirklich ein Interesse, dem Patienten, der Patientin zu nutzen.

22:13 timpritlove

Was würdest du denn jetzt formulieren, was könnten denn jetzt Ziele sein?

22:17

Was ist denn wünschenswert oder was ist sogar in der Medizin klar, dass man da auf jeden Fall hin möchte,

22:25

auch wenn man vielleicht noch Probleme dabei sieht, wie man diese Ziele erreichen kann?

22:31 hendrikballhausen

Also ich glaube, wir müssen als Gesellschaft klar diese Frage politisch beantworten.

22:36

Zunächst, wie stark wollen wir Datenschutz gegen wissenschaftliches, medizinisches Erkenntnisgewinninteresse abwägen?

22:47

Das ist auch eine Entscheidung, die kann kein Arzt, die kann keine Ärztin,

22:49

das kann kein Informatiker, das kann kein Cloudprovider beantworten.

22:56

Und wenn wir dann diese Entscheidung getroffen haben oder zumindest wissen, in welche Richtung wir uns bewegen wollen,

23:02

dann müssen wir eigentlich sehr schnell und möglichst auch unbürokratisch,

23:08

die technischen Infrastrukturen dafür schaffen.

23:10

Wir sind in Deutschland sehr gut darin, Komitees und Subkomitees zu bilden,

23:15

und wenn diese Strukturen groß genug werden, dann haben die irgendwann ihr eigenes Überleben im Sinn

23:20

und nicht mehr das Problem zu lösen, da müssen wir vorsichtig sein,

23:23

Dass wir vielleicht uns da auch die richtigen Anleihen aus der Industrie holen,

23:28

aus der Digitalwirtschaft, die ja teilweise mit sehr kleinen, sehr agilen Teams sehr viel erreichen.

23:33

Gar nicht so sehr, was jetzt dahinter vielleicht das ökonomische Interesse ist,

23:39

gar nicht eine Ökonomisierung der Medizindaten, aber die Abläufe,

23:44

die Strukturen die müssen einfach moderner, schneller, agiler werden.

23:50 timpritlove

Gut, aber vielleicht kannst du ja mal ein paar konkrete Beispiele nennen,

23:54

wo man sozusagen gerne Daten nutzen würde und zu welchem Zweck.

23:58

Nur um einfach mal so ein bisschen zu verstehen, was so die Stoßrichtung wäre.

24:02 hendrikballhausen

Ja, also ein Klassiker ist, Klinikum A hat eine klinische Studie gemacht,

24:07

die haben written informe consent von ihren Patienten, dass sie das auch auswerten dürfen,

24:10

Klinikum B hat die gleiche Studie gemacht und die merken eigentlich,

24:17

sie könnten viel granularer auswerten, wenn sie jetzt die Daten gegenseitig sich zeigen könnten,

24:20

dürfen sie aber nicht.

24:23

Das sind, die Daten müssen in Gewahrsam des Klinikums bleiben,

24:27

bzw. da sind dann oft auch, sobald eine Landesgrenze in Deutschland dazwischenkommt,

24:30

da sind noch mal andere Datenschutzgesetze, das sind andere Ethikkommissionen,

24:34

und das wird dann sehr schwierig, und der einfache Weg ist dann,

24:39

dass man dann eine Metaanalyse macht, das heißt,

24:41

man nimmt sozusagen die Summe der Erkenntnisse der einen Studie

24:45

und die Summe der Erkenntnisse der anderen Studie und versucht,

24:47

die irgendwie zu verheiraten, aber das ist halt nicht so einfach

24:50

und das ist halt auch nicht so gut, was heißt so gut, man kann oft nicht genau so viel ableiten,

24:56

wie man mit den Rohdaten beider Studien addieren könnte.

25:02

Das ist ein Beispiel für, um jetzt mal einen Fachausdruck zu bringen,

25:06

eine sogenannte horizontale Partitionierung, also jeder hat die gleichen Daten,

25:09

aber in Summe hat man mehr davon.

25:13

Dann gibt es noch ein anderes Problem, das ist eigentlich viel größer,

25:15

das ist die vertikale Partitionierung, das ist, wenn der eine die einen Daten hat

25:18

und der andere hat die anderen Daten, also über die gleichen Leute.

25:21

Beispielsweise der eine weiß, sind das Frauen oder Männer und der andere weiß, sind das Raucher oder Nichtraucher.

25:28

Nichtraucherinnen und Raucherinnen.

25:30

Und das wird dann schon sehr viel schwieriger, weil man kann sich überlegen,

25:34

da kann man eben nicht mehr erst summieren und dann austauschen,

25:37

sondern da muss man eigentlich über den einzelnen Patienten, die einzelne Patientin wissen,

25:41

ist das eine Frau, ist das ein Mann, ist das ein Raucher, eine Nichtraucherin.

25:46

Und dafür gibt es Verfahren, auch mathematische Verfahren, kryptografische Verfahren,

25:52

aber es ist halt immer sehr sehr viel schwieriger, als die Daten in einen großen Topf zu werfen.

25:58

Und deswegen kann man auch verstehen, dass der allererste Reflex, der allererste Impuls,

26:04

was die Leute auch können, ist, große Datentöpfe, große Datalags, große Datensilos zu schaffen

26:11

und die Juristen dann zu beschäftigen, dass die einen entsprechenden Rahmenvertrag dann darum bauen.

26:16

Und so funktioniert es da zurzeit und man muss sagen, ja auch gar nicht unerfolgreich.

26:20

Also es gibt ja in Deutschland die große Medizininformatikinitiative,

26:24

die sich genau mit dem Thema beschäftigt, wie können wir Daten austauschen,

26:27

wie können wir Daten auch harmonisieren, wie schaffen wir es, das ist ja die eigentliche digitale Transformation,

26:32

wie schaffen wir es, dass an den Standorten nicht nur Daten zur Verfügung stehen,

26:36

sondern eben auch strukturierte Daten.

26:38 timpritlove

Was macht diese Medizininformatikinitiative so konkret?

26:42 hendrikballhausen

Die haben sich verschiedene Usecases gesucht, Neurologe etc. pp.,

26:49

wo sie sagen, wir schauen uns jetzt bestimmte Krankheitsbilder in dem ersten Schritt an

26:53

und versuchen, für diese Krankheitsbilder jetzt entsprechende Strukturen aufzubauen,

26:58

dass die Leute da Daten austauschen können.

27:01

Ganz konkret sieht das so aus, dass an jedem Standort ein Datenintegrationszentrum geschaffen wird

27:07

und diese Datenintegrationszentren dann gemeinsame Standards verwenden,

27:11

um Daten eben gemeinsam verarbeiten zu können.

27:15

Das ist immer noch der Ansatz, dass Daten ausgetauscht werden und genau was du eingangs gesagt hast,

27:22

da ist eben nach wie vor die Befürchtung, Daten, die ich einmal herausgegeben habe,

27:27

die bekomme ich halt nicht zurück.

27:30

Ich weiß nicht, was mit denen gemacht wird, vielleicht gibt es in dem Konsortium einen starken Partner

27:36

und viele kleine Partner, dann ist auch immer die Frage, ist es ein gleichberechtigtes Zusammenarbeiten

27:45

oder ist da eine Asymmetrie drin?

27:49

Das sind so Fragen, die sich stellen, die aber in der Praxis eigentlich auch ganz gut funktionieren.

27:54 timpritlove

Ja, aber wie überkommen die denn das Datenschutzproblem an der Stelle?

27:57 hendrikballhausen

Über juristische Lösungen.

27:59

Das heißt, da werden dann tatsächlich Rahmenverträge geschlossen

28:03

und da müssen die Patienten dann eben entsprechend der Verarbeitung der Daten zustimmen.

28:09

Das Wunschziel ist immer der sogenannte Broad Consent(?), das heißt,

28:12

dass der Patient, die Patientin nicht nur zustimmt, dass ihre Daten jetzt für einen bestimmten Zweck verwendet werden,

28:17

sondern auch beispielsweise in Form einer Datenspende sagen, ich bin einverstanden,

28:22

dass meine Daten auch für zukünftige andere Forschungsfragen, die euch vielleicht in ein, zwei, fünf Jahren einfallen,

28:27

auch verwendet werden dürfen.

28:29 timpritlove

Ähnliches hatten wir ja auch in der Corona-Krise, das RKI hat ja auch diese Datenspende-App rausgebracht,

28:35

noch bevor das mit der Corona-Warn-App richtig losging.

28:39

Ich weiß gar nicht, wie erfolgreich das eigentlich war, wissen wir nicht.

28:42

Aber du meinst, das skaliert nicht, das stößt an seine Grenzen oder?

28:47 hendrikballhausen

Das skaliert sehr gut.

28:50

Also wenn man die Daten in einen Topf werfen kann, dann ist das immer das einfachste

28:53

und das, was am allerbesten skaliert.

28:55

Auch vor allen Dinge, was natürlich, wenn man jetzt wieder die Informatik betrachtet,

28:59

die Algorithmen funktionieren am allerbesten, wenn die auf Daten lokal,

29:03

also auf einem großen Datensilo, das an einem Ort ist, läuft.

29:06 timpritlove

Okay, das ist die Skalierung aus der technischen Perspektive, aber ich meinte eher,

29:09

skaliert es sozusagen insofern, als dass man sehr viel mehr solche Ansätze machen kann?

29:15

Also lässt sich das im Prinzip auf den gesamten medizinischen Bereich erweitern?

29:20

Dann würde ich ja sagen, sind wir schon fast fertig hier mit dem Podcast.

29:22

Dann lösen wir das einfach juristisch und das war es.

29:25 hendrikballhausen

/lacht/ Naja, manche Länder, UK, Dänemark, glaube ich, die gehen ja durchaus diese Richtung,

29:31

dass die wirklich große nationale Datenbanken haben, die haben natürlich wieder andere Nachteile.

29:40

Es gibt, je größer die Datenbank ist, desto größer ist natürlich auch die Zielscheibe, die man drauf malt,

29:45

für beispielsweise irgendwelche Hackerangriffe, das ist natürlich immer alles im Vorwege total abgesichert,

29:51

aber wie man auch an der Gesundheitskarte und anderen Systemen sieht,

29:55

je größer so ein System wird, desto mehr Akteure gibt es, die in irgendeiner Form involviert sind,

30:01

desto mehr Schnittstellen gibt es und desto größer wird letztlich auch die Angriffsfläche.

30:06

Und insofern würde ich sagen, jain, vielleicht skaliert das in der Medizin sogar,

30:15

die Frage ist, gibt es andere Ansätze, die vielleicht in den moderneren demokratischeren auch Prozess hinweisen.

30:23

Du hast die Apps erwähnt, ja das wäre vielleicht auch noch mal meine Antwort auf,

30:25

wem gehören die Patienten?

30:28

Heutzutage, wenn die Daten am Universitätsklinikum entstehen und wir wollen ja zum Beispiel auch zunehmend an die Daten,

30:33

die beispielsweise bei den Niedergelassenen entstehen, das ist ja auch ein riesiger Datenschatz,

30:38

der noch in keiner Weise irgendwie gehoben ist.

30:41

Und weil mal ehrlich gesagt, die Universitätskliniker sehen ja oft auch die Sonderfälle.

30:48

Aber der Niedergelassene der sieht eigentlich das, was die Bevölkerung wirklich auch viel betrifft.

30:55

Und du hast die Apps erwähnt, ja, und in Zukunft tragen die Leute halt die Apps bei sich

31:00

und dann werden wir als Universitätsmedizin eines Tages wirklich die Leute bitten müssen,

31:06

darf ich die Daten aus deiner App haben?

31:09

Es ist noch nicht mal so, dass wir fragen müssen, dürfen wir die Daten, die wir von dir haben, verwenden,

31:13

sondern, wirst du uns wirklich deine Daten geben?

31:17

Und da kann man sich natürlich überlegen, wenn man ohnehin diesen Schritt vor sich hat,

31:20

dass man auf dezentrale Daten zugreifen muss, können wir dann vielleicht heute schon lernen,

31:25

auch auf dezentralen Daten zu rechnen, dass wir die gar nicht mehr austauschen müssen?

31:31 timpritlove

Gibt ja auch entsprechende Initiativen von den Smartphone-Herstellern,

31:37

vor allem Apple ist ja in diesem Gesundheitsbereich ganz weit vorne.

31:42

Auch so mit der Apple Watch, hatten wir auch schon in diesem vorhin erwähnten Podcast drüber gesprochen,

31:47

dass da ja massig sehr vergleichbare Daten gesammelt werden quasi,

31:51

das Telefon selber überwacht ja im wahrsten Sinne des Wortes den Körper.

31:57

Es gibt immer mehr Sensoriken, von Blutdruck etc., alles mögliche.

32:06

Es gibt ja auch noch andere Messgeräte, die mittlerweile mit den Telefonen gekoppelt werden,

32:08

bei Leuten, die da einen speziellen Bedarf haben.

32:11

Das ist natürlich auch ein riesiger Datenschatz, der eigentlich nur darauf wartet,

32:15

in irgendeiner Form ausgewertet zu werden.

32:19

Bisher läuft das ja dann eben nur über solche meist dann universitären Studien,

32:25

wo Leute dann quasi über Apps sagen können, okay ich will jetzt an dieser Studie teilnehmen

32:29

und spende da quasi meine Daten mit rein, die ja dann auch mehr oder weniger automatisiert eingesammelt werden können.

32:37 hendrikballhausen

Ja, aber Apple, ist zumindest jetzt mein Verständnis, ist ja ein Paradebeispiel dafür,

32:43

dass eben genau so ein proprietärer Datenraum geschaffen wird.

32:48

Apple zentralisiert ja eigentlich alle Daten, die auf irgendeinem, egal ob es die Smartwatch ist

32:55

oder das iPhone oder der PowerMac oder was auch immer das ist,

33:00

Apple ist ja eigentlich dafür bekannt, dass es den Benutzern eine sehr komfortable einheitliche Sicht auf ihre Daten bietet,

33:08

was aber eben bedeutet, dass diese Daten eben alle zentral liegen.

33:11

Und auch die allermeisten Geschäftsmodelle…

33:13 timpritlove

Also zentral auf den Geräten liegen.

33:15 hendrikballhausen

Zentral bei Apple liegen.

33:16 timpritlove

Gesundheitsdaten nicht, nein.

33:20 hendrikballhausen

Okay, gut, das weiß ich jetzt nicht.

33:21 timpritlove

Nein, nein.

33:21

Das ist halt das Modell, also die Daten verlassen eigentlich das Telefon nicht

33:26

und man kann dann halt mit dem Apps an Studien teilnehmen und dann dafür sozusagen explizit die Datenspende quasi freigeben,

33:34

aber ansonsten verlassen die halt das Telefon nicht.

33:39

Es ist nur so, dass die Daten quasi auf den Geräten zentral gesammelt werden,

33:44

also Apps, die irgendwas zu sammeln haben oder etwas anfragen möchten,

33:48

wenden sich quasi über einen definierten Zugang an das Gerät und sagen,

33:53

ich würde gern das auslesen dürfen bzw. ich würde gerne diese Information schreiben dürfen,

33:58

weil ich die über irgendein, was weiß ich, Bluetooth gekoppeltes Sensorgerät, einsammle

34:04

und dann liegen die da halt erst mal rum, aber warten ja im Prinzip darauf, auch mal sinnvoll ausgewertet zu werden.

34:11 hendrikballhausen

Okay. Wenn du deine Smartwatch verlieren würdest und du würdest dir eine neue kaufen,

34:17

dann wären da keine Daten mehr drauf.

34:22 timpritlove

Die Daten sind in meinem eigenen Backup natürlich erhalten.

34:25 hendrikballhausen

Das meine ich, die Daten liegen bei Apple.

34:28 timpritlove

Ach so, in dem Moment, wo man sein Backup bei Apple macht, liegen die Daten dort.

34:31 hendrikballhausen

Ja.

34:32 timpritlove

Das ist richtig.

34:34

Aber es gibt nicht in dem eigentlichen Sinne eine zentrale Gesundheitsdatenbank,

34:38

in der man sagen kann, gib mir mal die Daten von.

34:41 hendrikballhausen

Das Geschäftsmodell der allermeisten Apps ist ja genau das,

34:47

die App ist oft kostenlos, ja, und das Unternehmen selber verdient dann daran,

34:54

dass die Daten als solche weitergegeben, verkauft, genutzt werden.

35:01

Ist ja heutzutage auch deswegen besonders spannend, weil gerade im Bereich des maschinellen Lernens

35:06

man natürlich sehr viel Daten auch über Benutzerinnen und Benutzer verknüpfen möchte

35:11

und vor allen Dingen überhaupt eigentlich auch vernünftig erst Modelle trainieren kann,

35:15

wenn man Millionen von Nutzern hat.

35:19

Und das beobachten wir in ganz vielen Bereichen.

35:21

Dass jetzt die klinische Studie am Ende auf einer Smartwatch ausgeführt wird,

35:27

das ist eigentlich, möchte ich mal behaupten, noch der absolute Ausnahmefall,

35:33

das gibt natürlich jetzt erste Ärztinnen und Ärzte, die das spannend finden

35:40

oder auch beispielsweise im Bereich der Sportmedizin da Bewegungsbilder auswerten.

35:47

Die typische klinische Studie, sagt ja auch der Name, klinisch, findet in der Klinik, am Klinikum statt,

35:55

ist meistens doch so, dass sie unter sehr kontrollierten Bedingungen stattfindet,

36:00

aber natürlich zunehmend interessieren wir uns auch dafür, Leuten Wearables mit nach Hause zu geben,

36:05

um die dann beispielsweise nachzuverfolgen oder eben, das kann dann auch einfach Arbeitserleichterung sein,

36:13

dass die Daten nicht ständig jetzt von Study Nurses erhoben werden müssen,

36:17

sondern dass die mehr oder weniger automatisiert abgerufen werden können.

36:21 timpritlove

Blutdruck verfolgen etc.

36:24 hendrikballhausen

Zum Beispiel, ja genau.

36:25 timpritlove

Genau. So und jetzt muss man sich natürlich darüber Gedanken machen,

36:29

wie kann man diese Ziele erreichen, die du vorhin genannt hast.

36:34

Also wie kann man denn nun Daten zusammenführen, von denen eben nicht von vornherein gesagt wurde,

36:39

ja die könnt ihr für alles mögliche verwenden, mir doch egal, macht doch was ihr wollt.

36:44

Weil das ist ja nicht die Regel, sondern die Regel ist ja immer erst mal,

36:46

da, wo keine explizite Einwilligung vorliegt, ist es halt alles erst mal wieder im Bunker.

36:52

Und wenn ich das richtig verstehe, habt ihr jetzt ein Projekt gestartet mit dem schönen Namen,

36:58

Federated Secure Computing, das halt informatische Methoden aufruft und sagt,

37:06

hör mal, alles gar kein Problem, wir können diese Daten, ohne sie wirklich irgendjemandem zu öffnen,

37:16

auch beliebigen Verarbeitungsschritten zuführen, ohne dass irgendjemandem was verraten wird.

37:25

Ist das so erst mal von der Prämisse her richtig dargestellt?

37:29 hendrikballhausen

Ja, gar kein Problem wäre schön, dann bräuchte es unser Projekt nicht,

37:32

aber im Prinzip ist es genau das.

37:35

Also wir wollen diesen alten Konflikt auflösen zwischen Kollaboration auf der einen Seite,

37:40

Daten gemeinsam zu nutzen und Datenschutz auf der anderen Seite.

37:44

Wir wollen eben erreichen, dass die Leute auf verteilten Daten so rechnen können,

37:48

als wären sie an einem Ort zusammen.

37:52

Dass beispielsweise auch so Dinge möglich werden wie Dynamic Consent.

37:55

Dass ich also auch im Nachhinein noch bestimmen kann, was mit meinen Daten geschieht,

37:59

eben weil ich sie nicht einmal herausgegeben habe,

38:02

sondern indem ich eigentlich bei jeder neuen Berechnung aktiv werden muss.

38:06

Und das ist vielleicht auch noch mal so ein Punkt, wer ist eigentlich aktiv und wer ist passiv in dem System?

38:12

Und es würde zu wesentlich demokratischeren Datenströmen und Datenstrukturen führen,

38:19

wenn eben die Konsumentinnen und Konsumenten, wenn die Patientinnen und Patienten wirklich auch zu Akteuren würden.

38:25

Da gibt es ja schöne Ansätze, beispielsweise Citizen Science.

38:28

Das eine Beispiel ist die Datenspende, aber es gibt noch andere Beispiele für Citizen Science,

38:33

wo Leute eben beispielsweise die Rechenleistung ihres Computers zur Verfügung stellen.

38:38

Und das passiert eben jedesmal wieder neu.

38:39

Die Leute werden jedesmal wieder aktiv und überlegen sich ja auch,

38:43

wo möchte ich mich engagieren, für was, wo sehe ich jetzt meine Daten gut verwendet?

38:47

Wo sehe ich auch mein eigenes Interesse, da mitmachen zu wollen?

38:52 timpritlove

Also Citizen Science im Sinne von, ich würde es mal jetzt ein bisschen mit der Astronomie vergleichen,

38:58

man hat diese ganzen Sternenkataloge, es gibt einfach von vielen Projekten, auch neueren Missionen,

39:05

die ja auch umgeschwenkt haben zu diesem vollständig geschlossenen,

39:09

das ist nur für unsere Hohepriester und Superwissenschaftler, dass die Daten halt quasi mehr oder weniger der Öffentlichkeit zur Verfügung stehen,

39:17

weil es ohnehin so viele Daten sind, dass niemand auf alles drauf schauen kann

39:21

und man es im Prinzip beliebigen Leuten ermöglicht, da einfach ganz eigene Analysen vorzunehmen

39:27

und so verstehe ich das jetzt auch, ist es so ein bisschen diese Vision, was wäre wenn,

39:32

wenn all diese Daten qualifiziert herumliegen, aber naja, wie wird dann der Datenschutz dabei nicht

39:40

und die Privatsphäre dabei nicht verletzt?

39:44 hendrikballhausen

Und da gibt es eben eigentlich Verfahren, die auch…

39:46

also ich bin froh, dass dieser Podcast Forschergeist heißt und nicht Erfindergeist.

39:53

Wir sind wirklich nicht Erfinder von diesen Verfahren, diese Verfahren gibt es eigentlich schon richtig lange.

39:57

Die gibt es so seit den 70er/80er Jahren und es ist ganz spannend, sich zu überlegen,

40:03

warum die eigentlich auch nicht so wirklich bisher gezündet haben.

40:09

Und das ist eigentlich so der Ansatz unseres Projektes, zu sagen,

40:12

wir wollen diesen Verfahren auch mal helfen, auch in dem schwierigen Feld der Medizin Fuß zu fassen,

40:19

und dort erste Showcases zu bauen, dass die wirklich auch gut funktionieren können.

40:24 timpritlove

Es gibt ja auch gerade bei den schon angesprochenen Smartphones gibt es ja im Prinzip schon ähnliche Beispiele,

40:31

die jetzt erst mal mit Medizin aber nichts zu tun haben.

40:35

Verkehrsvorhersagen, man wundert sich immer, woher wissen die, dass da jetzt ein Stau ist in meiner Straße,

40:42

ja, das wissen die, weil sie halt quasi alle Telefone die ganze Zeit überwachen,

40:48

wie schnell sie sich denn jetzt bewegen und daran halt klare Patterns ableiten können,

40:53

ah du bist hier irgendwie zu Fuß unterwegs, wahrscheinlich eher Fahrrad oder du stehst halt hier gerade mit deinem Auto im Stau,

40:59

weil mal bewegst du dich mit 60km/h und dann stehst du halt wieder zwei Minuten rum.

41:04

Und dann denkt man sich so, oh ja ist ja aber eigentlich genau auch super, Privatsphäre, du weißt wo ich bin etc..

41:10

Und auch dort gab es ja schon verschiedene Verschleierungsansätze, ich glaube,

41:15

so ein Modell, was sich differential privacy nennt, steht da ganz weit vorne.

41:18 hendrikballhausen

Richtig.

41:20 timpritlove

Dass man im Prinzip sagt, naja okay, alle schicken das jetzt irgendwie einerseits halt anonymisiert so,

41:28

andererseits aber auch so, dass ein vorhersagbarer Teil der Daten quasi falsch ist,

41:34

also man weiß, zehn Prozent der Antworten stimmen einfach nicht

41:37

und das kann man dann im Nachhinein wieder rausrechnen und kommt dann trotzdem auf das richtige Ergebnis.

41:42 hendrikballhausen

Ja, absolut richtig, du hast da jetzt genau eines dieser Verfahren genannt

41:46

oder sozusagen eine Klasse von Verfahren, differential privacy, auch in der Medizin viel verwendet.

41:55

Du hast es richtig gesagt, man verrauscht die Daten bzw. man erlaubt,

41:59

wenn man jetzt eine entsprechende Datenbank gebaut hat,

42:03

dann erlaubt man den Wissenschaftlern eben nur bestimmte Abfragen

42:07

und nicht beliebige Abfragen, ist aber auch wieder übrigens ein ganz interessantes

42:10

informationstheoretisches Entscheidungsproblem, welche Anfragen man zulassen darf.

42:17

Und ist gar nicht so leicht entscheidbar.

42:18 timpritlove

Ja und vor allem bei den Beispielen, die du vorhin genannt hast, mit der vertikalen Partitionierung.

42:26 hendrikballhausen

Da funktioniert das nicht.

42:28 timpritlove

Genau, weil dann will man ja genau, da muss man ja exakt genau zuordnen

42:33

und da darf man in dem Sinne ja auch keine falschen Daten haben, weil dann ist im Prinzip der ganze Witz schon wieder vorbei.

42:41

Von daher taugt das eben für bestimmte Dinge vielleicht unter Umständen, aber auf gar keinen Fall für alle.

42:46 hendrikballhausen

Ja, also es gibt auch da in der deutschen Medizininformatik initiative Leute,

42:51

nicht uns, die haben ganz Interessante Ansätze, wo sie eben auch verrauschte Identifier zuordnen können,

42:57

also auch wenn jetzt Namen ähnlich sind und auch da kann man einiges verschleiern

43:00

und trotzdem noch was lernen.

43:02

Aber das ist in der Tat natürlich schwierig und die spannende Frage ist natürlich auch,

43:07

was ist dann sozusagen die Sekundärnutzung dieser Daten.

43:10

Solange das Ganze für die Stauvorhersage verwendet wird, ist es ja fein.

43:14

Sobald ich dann, wenn ich das nächste Mal eine Autoversicherung abschließen möchte,

43:16

plötzlich gesagt bekomme, Ihr Tarif ist doppelt so hoch, weil Sie an der Kreuzung immer abbiegen,

43:23

ohne auf sozusagen die Ampel zu warten.

43:27

Obwohl das ist vielleicht sogar noch ein Beispiel, das gesellschaftlichen Nutzen bringen würde.

43:33 timpritlove

Ist alles so bisschen Dual Use.

43:39

Aber was sind denn jetzt, also wenn ich das jetzt richtig verstehe, ist ja euer Ansatz eher der,

43:43

wir möchten gerne, dass man mit den richtigen Daten arbeitet, aber die darf keiner sehen.

43:50 hendrikballhausen

Richtig, ja.

43:52

Also ein anderes Verfahren, was da oft als der Goldstandard auch bezeichnet wird,

43:55

das ist Secure Multiparty Computation.

43:57

Also sicheres Rechnen von verschiedenen Parteien.

44:02

Und wir haben in 2019 einen Pilotversuch gemacht,

44:08

wo wir Patientendaten der LMU und der Charité in Berlin, also auch über Landesgrenzen hinweg,

44:13

das waren Glioblastomdaten(?), also Daten von Krebspatientinnen und Krebspatienten,

44:17

miteinander verrechnet haben, ohne die auszutauschen.

44:21

Und das hat eigentlich super funktioniert.

44:23

Das Problem dabei war, es waren damit vier Monate lang die Leute beschäftigt.

44:30

Also wir hatten einen Expertenprogrammierer von der TU, der das für uns programmiert hat,

44:33

der ist inzwischen auch beim Bundesamt für Sicherheit in der Informationstechnik,

44:37

weil solche Leute sind immer sofort weg, die so was können.

44:41

Wir hatten jeweils einen Systemadministrator an der Charité und an der LMU,

44:44

wir hatten zwei große schwere Server und am Ende lief das und es lief mühsam

44:51

und wenn man jetzt eine andere Analyse hätte machen wollen,

44:53

dann hätte man eigentlich sozusagen wieder bei null anfangen müssen.

44:57

Und in dem Moment ist uns dann auch klargeworden, das ist nicht so einfach,

45:00

so problemlos, vor allen Dingen sind wir dann losgezogen und haben versucht,

45:04

Leuten das zu verkaufen, also jetzt nicht als Produkt zu verkaufen,

45:08

sondern Manager auch in anderen Unternehmen von dieser Idee zu überzeugen.

45:12

Weil in der Industrie hat man das viel häufiger, dass man sich Daten gar nicht zeigen kann,

45:16

weil es Geschäftsgeheimnisse sind, also selbst wenn man wollte.

45:20

Und wir haben eigentlich immer dieselbe Antwort bekommen.

45:23

Der Chef der fand das eigentlich immer super, der hat das gesehen,

45:26

der hat das grundsätzliche Problem gesehen, Datenschutz versus Kollaboration.

45:31

Der Chief Technology Officer, der fand das eigentlich auch immer super,

45:34

der hat gesagt, hier ist unser Alleinstellungsmerkmal und neue Technologie und klasse

45:39

und wollen wir mal ausprobieren und dann kam der CIO der Chief Information Officer

45:43

und das waren immer die Jungs, die gesagt haben, um Gottes Willen bitte nicht.

45:47

Wir haben die Skills nicht, wir haben die Leute nicht, wir verstehen das nicht,

45:51

wir wollen das nicht, wir haben so was noch nie gemacht.

45:55

Und die hatten dann natürlich auch die Datenschützer im Schlepptau,

45:57

die auch gesagt haben, ja ist toll, aber wir verstehen das eigentlich nicht,

46:02

wir haben Angst, das zu unterschreiben.

46:05

Und so Datensammeln das verstehen wir, das können wir unterschreiben,

46:08

da verstehen wir das Risiko, da verstehen wir die Haftung.

46:12

Aber ihr bringt da so ein virtuelles Netzwerk, wo eigentlich völlig unklar ist am Ende,

46:16

wer hat eigentlich die Daten, wo sind denn die, wer verarbeitet denn da eigentlich was?

46:21

Das wollen wir nicht, das können wir nicht.

46:23 timpritlove

Nachvollziehbare Einwände, möchte ich sagen.

46:27

Weil ich meine, das Ganze hat ja jetzt hier auch mit Kryptographie zu tun,

46:31

und Kryptographie ist komplex.

46:33

Können wir vielleicht mal versuchen, so ein bisschen ein Gefühl dafür zu bekommen,

46:37

was mit so einer Multiparty Computation, also Leute rechnen auf,

46:41

also mehrere Leute rechnen auf denselben Daten an verschiedenen Stellen, ohne die Daten zu sehen.

46:48

Also ich weiß nicht, wie ich zwei plus zwei zusammenaddieren soll, wenn zwei verschlüsselt ist.

46:53 hendrikballhausen

Ja, da musst du mir jetzt sagen, ob ich das sozusagen hier mal in fünf Minuten darstellen darf.

46:58 timpritlove

Gerne.

46:59 hendrikballhausen

Aber dann wären wir schon im algorithmischen Bereich.

47:01

Also wenn du zwei plus zwei rechnen willst, ist es schwierig,

47:04

weil sobald, also nehmen wir mal an, die zwei kommt von dir und die andere zwei kommt von mir,

47:09

und wir beide rechnen gemeinsam aus, dass das vier ist, dann weißt du hinterher, was meine Zahl war.

47:14

Das funktioniert nicht.

47:15

Aber wenn wir jetzt hier noch jemanden drittes am Tisch sitzen hätten

47:18

und wir alle drei hätten eine Zahl im Kopf und wir wollen die Summe von diesen drei Zahlen wissen, das ginge.

47:26

Und das würde so funktionieren, dass ich einen Würfel werfe.

47:29

Ich würfle eine Zahl und diese Zahl die ziehe ich von meiner geheimen Zahl im Kopf ab

47:33

und ich sage dir aber, was ich gewürfelt habe, das darf die dritte Person nicht wissen

47:37

und du addierst das bei deiner Zahl in deinem Kopf hinzu.

47:41

Dann kannst du dir vorstellen, ich habe es abgezogen, du hast es dazuaddiert dieses Würfelergebnis,

47:44

da hat sich die Gesamtsumme im System nicht verändert,

47:48

aber dass ich dir eine gewürfelte Zahl genannt habe, hat dir auch keine Information verraten,

47:53

weil das war ja eine zufällige Zahl.

47:55

Und dasselbe machst du mit der dritten Person, du würfelst ihr also auch was zu

48:00

und ihr addiert und ihr subtrahiert und dann machen wir das noch ein drittes Mal im Kreis

48:04

und dann kannst du dir überlegen, wenn du das jetzt auf Papier als Formeln hinschreiben würdest,

48:09

dass wir hinterher alle eine neue Zahl im Kopf haben, die wir uns verraten können,

48:13

weil da ist jetzt genügend Zufall, genügend Unsicherheit drin, dass wir am Ende immer noch auf dieselbe Summe kommen,

48:21

also das richtige Ergebnis, aber keiner von uns weiß, welche Zahlen die anderen beiden im Kopf hatten.

48:29

Da müssten sich jetzt zwei von uns zusammentun gegen den dritten,

48:32

dann könnten wir es wieder ausrechnen.

48:34

Das nur mal so ein ganz einfaches Beispiel für eine Summenberechnung,

48:38

weil du das Beispiel gebracht hast, auf sichere Art und Weise.

48:43 timpritlove

Aber hätten wir dann das exakte Ergebnis oder eine Approximation?

48:45 hendrikballhausen

Nein, wir hätten das exakte Ergebnis, weil ich ja dieselbe Zahl abziehe, die du hinzuaddierst

48:52

und so geht das in jedem Schritt.

48:53 timpritlove

Aber das exakte Ergebnis wird nur dadurch erreicht, indem man diesen ganzen Prozess mehrfach durchläuft?

48:58 hendrikballhausen

Eine Runde würde reichen. Wir würfeln einmal in der Runde und anschließend hätten wir alle eine neue Zahl im Kopf,

49:04

die können wir uns hier offen auf den Tisch legen, aus der kann dann keiner mehr was lernen.

49:10

Das System wird natürlich umso sicherer, je mehr Parteien dabei sind,

49:14

weil dass sich zwei gegen einen verbünden, das ist noch denkbar,

49:18

aber wenn wir jetzt hundert Personen wären, dann müssten sich 99 Personen gegen den hundertsten, die hundertste verbünden,

49:25

um deren Zahl rauszufinden.

49:28 timpritlove

Und ist das Bild mit dem Würfeln jetzt quasi nur eine Chiffre für Kryptographie?

49:33 hendrikballhausen

Nein.

49:34 timpritlove

Oder ist es eine tatsächliche Veränderung der Werte?

49:37 hendrikballhausen

Eine tatsächliche Veränderung der Werte.

49:39

Und das ist nicht nur ein Bild, sondern das ist genau der Algorithmus.

49:41

Ich lasse den Computer eine Zufallszahl erzeugen und die ziehe ich bei mir ab

49:47

und die Zufallszahl verrate ich dir und du addierst sie bei dir hinauf und so geht es einmal im Kreis.

49:52

Genau das ist der Algorithmus.

49:54 timpritlove

Das heißt, man stellt die Daten bereit in einem Bewusstsein, wie sie letztlich auch berechnet werden sollen,

50:00

modifiziert sie entsprechend, dass sie als solche nicht mehr erkennbar ist,

50:04

so dass es dann in der Summe wieder funktioniert?

50:07 hendrikballhausen

Ja genau. Das heißt, das Protokoll gehört immer dazu.

50:09

Es geht jetzt gar nicht mehr so sehr um die Daten, sondern es geht vielmehr um das Protokoll.

50:15

Also der Berechnungsmodus, auf den wir uns geeinigt haben.

50:18

Und da geht die Welt sehr weit auf.

50:20

Also da gibt es Verfahren, die zum Beispiel dann auch, das wird dann natürlich noch mal eine Stufe komplexer,

50:26

es gibt Verfahren, die zum Beispiel auch herausfinden können,

50:28

ob einer von uns in dem Protokoll geschummelt hat oder ob wir uns alle an das Protokoll gehalten haben.

50:34

Also es ist total interessant, es ist hardcore Mathematik, es ist hardcore Kryptographie.

50:40

Ich bin kein Kryptograph, Gott sei Dank gibt es diese Verfahren ja schon,

50:44

wir mussten also gar nichts erfinden, aber wir haben eben den Ansatz,

50:49

zu versuchen, die so zu verpacken als Bibliotheken, als OpenSource,

50:55

dass sie eben einfacher einsetzbar werden.

50:57

Und die andere große Schiene, auf der wir aktiv sind, deswegen bin ich ja heute zum Beispiel auch hier,

51:02

ist Awareness, wir versuchen einfach auch Bewusstsein dafür zu schaffen,

51:06

dass man eben gemeinsam auf Daten rechnen kann, ohne die auszutauschen.

51:11 timpritlove

Wie komplex kann diese Berechnung denn dann sein?

51:17

Also geht das jetzt nur mit den vier Grundrechenarten oder?

51:20 hendrikballhausen

Das ist, ja, wie soll man sagen, der Pyrrhussieg des Secure Multiparty Computation.

51:26

Es hat irgendwann mal jemand mathematisch bewiesen, dass man tatsächlich jede Funktion auf sichere Weise berechnen kann.

51:34

Das heißt, zumindest theoretisch könnten wir alles, was wir berechnen können,

51:39

indem wir die Daten zusammenschmeißen, auch berechnen, indem wir die Daten lokal lassen.

51:45

Du hast aber nach der Komplexität gefragt.

51:48

Und das wissen die Leute, die sich mal so ein bisschen mit Computern und Algorithmen beschäftigt haben,

51:52

spannend ist ja immer auch, wie lange laufen die Algorithmen?

51:56

Ist das jetzt auch in realistischer Zeit, ist das mit realistischem Speicher zu lösen?

52:00

Und da muss man sagen, da ist jetzt ein großes Problem, dass beispielsweise,

52:06

wenn wir uns Bitcoin anschauen, wenn wir uns die Blockchain anschauen,

52:09

das ist eigentlich so das Gegenbeispiel, bei Blockchain geht es eigentlich um Nichtverfälschbarkeit

52:14

und Nachvollziehbarkeit, ist aber auch ein dezentraler Ansatz.

52:18

Bei uns geht es eben darum, auch dezentral, aber eben nicht nachvollziehbar, nicht transparent.

52:24

Trotzdem sind die Algorithmen, die dahinterstehen, oft sehr ähnlich

52:27

und wie wir wissen von der Blockchain und von Bitcoin, solange das so ein Proof of work Sceem(?) ist,

52:34

dann wird da sehr viel Energie verbraten.

52:37

Und das ist bei einigen dieser Verfahren hier auch.

52:39

Und insbesondere bei diesen Verfahren, die jetzt universell sein wollen,

52:43

also womit man jedes Problem lösen kann, die sind extremst rechenaufwendig.

52:47

Das ist in der Praxis kein Problem, also wir reden jetzt nicht darüber,

52:50

dass Hochleistungsrechner ein Jahr arbeiten oder so.

52:53

Sondern wir reden vielleicht darüber, dass die ein paar Minuten rechnen.

52:55

Aber die rechnen halt da ein paar Sekunden oder ein paar Minuten,

52:59

wo normalerweise der Rechner in einer Milliardstel Sekunde eine Summe gebildet hätte.

53:05

Das heißt, schon ein millionen-, milliardenfacher Mehraufwand.

53:09

Und deswegen wissen wir oft gar nicht, ob wir uns jetzt wünschen sollen,

53:11

dass unsere Verfahren so weit Anwendung finden, denn wenn jetzt irgendwann wirklich Millionen, Milliarden Menschen das verwenden würden,

53:20

und das wirklich global skaliert, dann hätten wir tatsächlich dasselbe Problem wie bei Bitcoin,

53:25

dass wir wirklich also Energiemengen von kleinen Staaten verwenden.

53:28 timpritlove

Naja gut, aber ich meine, wenn man jetzt Studien auswertet, dann ist das ja auch ein einmaliger Vorgang.

53:33 hendrikballhausen

Ja, da ist das kein Problem.

53:34 timpritlove

Und nicht so ein Bedarf, permanent Energie zu verbrauchen, nur um des Verbrauchens der Energie als solcher.

53:41 hendrikballhausen

Nein, aber irgendwann hat mal jemand gesagt, wir schicken jetzt eine Email

53:44

und es ist egal, wie groß die Bandbreite ist und plötzlich verschicken wir ein paar mehr Emails.

53:48

Also das weiß man ja nicht, wo es eines Tages hingeht.

53:50 timpritlove

Okay, gut, aber ich meine, wenn man jetzt sagt, okay, die Alternative ist,

53:55

entweder man macht so eine Studienauswertung oder man macht sie halt gar nicht,

54:00

und sagt, ja okay, das würde aber jetzt irgendwie zwar hunderttausendmal länger dauern,

54:06

als es dauern würde, wenn man jetzt das Ganze unverschlüsselt auf den nackten Daten,

54:12

ohne irgendeinen Datenschutz, ohne irgendeinen Privatsphäreschutz machen würde,

54:18

dann ist das ja auch etwas, was durchaus auch skalieren kann,

54:22

weil dann nur noch die Frage ist, okay dauert es eine Minute oder dauert es einen Tag, so.

54:25 hendrikballhausen

Ja.

54:26 timpritlove

Und wenn es einem das wert ist, das irgendwie auch an einem Tag zu berechnen, könnte man es ja machen.

54:29 hendrikballhausen

Für eine klinische Studie ist das sowieso kein Problem, denn die dauern ja in der Regel Jahre.

54:33

Und da am Ende, ob man das jetzt an einem Tag auswertet oder in einer Minute oder eine Millisekunde,

54:38

das ist völlig egal, da sehen wir das Problem auch überhaupt nicht.

54:42

Unser Ansatz jetzt bei dem, was wir ganz konkret programmieren,

54:46

unser OpenSource-Projekt, das geht noch mal in eine dritte Richtung,

54:49

das versucht eigentlich so das beste beider Welten zu haben.

54:52

Weil wir haben gesehen, die Leute brauchen gar keine universellen Lösungen,

54:57

sondern eigentlich 90 Prozent der Anforderungen sind eigentlich mit zehn Prozent der Algorithmen zu erschlagen.

55:03

Die Leute wollen Summen berechnen, die Leute wollen eine Statistik machen,

55:06

die Leute wollen Korrelationen sehen, die Leute wollen Listen vergleichen,

55:10

das sind ganz einfache Sachen, die immer immer wieder kommen

55:14

und deswegen ist unser Ansatz dafür schlanke effiziente Microservices zu bauen,

55:19

die genau dieses eine Problem berechnen und nicht ein anderes.

55:24

Aber dadurch dass wir sagen, wir lösen jetzt wirklich nur das Problem, wie können wir eine Summe berechnen

55:27

oder wir lösen nur das Problem, wie können wir jetzt eine Korrelation berechnen,

55:33

dann kann man das hocheffizient machen in den allermeisten Fällen

55:37

und dann tritt das Problem auch gar nicht auf.

55:39 timpritlove

Jetzt sind ja die wenigsten Wissenschaftler mit all diesen ganzen Themen vertraut,

55:46

das ist nichts, wo man sich mal eben so einliest und ich höre jetzt schon so raus,

55:50

das Projekt, was halt im Prinzip erst mal sagt, okay, hier gibt es irgendwie eine ganze Menge brauchbare, interessante Ansätze aus der Kryptographie,

55:58

die liegen auch schon eine Weile rum, das ist irgendwie abgehangenes Zeug,

56:02

wir sind bloß bisher noch nicht auf die Idee gekommen, die auch konkret in dieser Form zum Einsatz zu bringen,

56:07

wir sorgen jetzt mal dafür, dass es ein paar Werkzeuge gibt oder zumindest auch eine Dienstleistung,

56:13

auf die man zurückgreifen kann, um die dann zum Ansatz zu bringen.

56:21

Was ist jetzt sozusagen der Inhalt eures Projektes, inwiefern sind solche Dienstleistungen,

56:27

OpenSource-Lösung hast du schon angedeutet, Teil des Voranschreiten

56:33

und an wen wendet ihr euch überhaupt und für wen ist es jetzt im ersten Schritt erst mal gedacht?

56:38 hendrikballhausen

Ja, also wir wenden uns natürlich an die Medizininformatikinitiative,

56:44

also wir stehen natürlich unseren Kolleginnen und Kollegen jetzt primär auch zur Verfügung,

56:48

wo ja auch diese Verfahren getestet werden.

56:51

Wir stehen aber auch anderen Akteuren aus, ich sage mal jetzt,

56:54

ich möchte jetzt heute hier keine Namen nennen oder ich kann auch keine Namen nennen,

56:58

Akteuren aus dem öffentlich-rechtlichen Sektor zur Verfügung.

57:04

Gibt es ja auch viele andere spannende Fragen, die man beantworten kann,

57:07

als nur mit Medizindaten, ich kann auch über Finanzdaten reden oder über Versicherungsdaten etc. pp.

57:13 timpritlove

Aber Medizin ist jetzt erst mal der Fokus?

57:15 hendrikballhausen

Nicht unbedingt, also den Algorithmen ist es völlig egal, wofür sie verwendet werden

57:20

und auch in unserem Projekt, was ja vom Stifterverband sehr großzügig jetzt auch für die nächsten drei Jahre finanziert ist,

57:26

haben wir auch den Auftrag, Domänen fern der Medizin, Showcases zu bauen.

57:33

Und da gucken wir uns auch kleine und mittlere Unternehmen an,

57:35

das sind ja auch typischerweise Bereiche, wo jetzt Daten fragmentiert vorliegen,

57:40

und da sind wir überhaupt nicht auf die Medizin festgelegt.

57:44

Auch da wieder, 90 Prozent der Probleme werden von zehn Prozent der Algorithmen erschlagen,

57:49

und so was wie Statistiken, Korrelationen, Listenvergleiche braucht man überall.

57:55

Und die Dienstleistung, so haben wir das noch nie formuliert, aber die Dienstleistung würde dann eben darin bestehen,

58:02

dass wir interessierten Parteien, so wie wir das ja heute auch schon tun,

58:06

ja zur Seite stehen würden, unser OpenSource-Projekt zu nutzen und weiterzuentwickeln.

58:10

Also die bekommen dann nicht nur den Code hingeworfen, sondern die würden wir dann sicherlich auch eingangs beraten.

58:17

Auch unabhängig beraten, weil das muss ja nicht unsere Lösung sein,

58:21

vielleicht gibt es ja für das Problem schon ein viel besseres Framework.

58:25

Aber wenn es dann unsere Lösung sein soll, dann würden wir die natürlich auch begleiten in der Umsetzung

58:29

und denen helfen, einen schönen Showcase zu bauen, aus dem dann am Ende alle lernen können.

58:36 timpritlove

Wer sollte denn jetzt hellhörig werden?

58:39 hendrikballhausen

Alle, die eigentlich gemerkt haben, dass es toll wäre, wenn sie sich mit anderen Dateneigentümern verschalten können,

58:45

zu denen sie bisher heute entweder noch kein Vertrauen haben, beispielsweise jetzt Konkurrenten,

58:49

oder wo sie merken, dass sie aufgrund gesetzlicher Basis noch nicht so wirklich die Grundlage haben,

58:57

um Daten gemeinsam zu verarbeiten.

59:00

Also eigentlich jeder, der sich fragen kann, habe ich Daten, die im Prinzip wertvoller würden,

59:05

wenn ich sie mit anderen Daten verheiraten würde.

59:07

Und natürlich, wo wir uns auch unheimlich wünschen, dass sie hellhörig werden,

59:10

das wären natürlich junge Gründerteams, die sagen, wir machen das jetzt zu einem Teil unserer Geschäftsidee,

59:15

zu einem Teil unseres Produktes, es muss ja gar nicht das ganze Produkt sein,

59:18

es kann ja nur ein Baustein sein, denn denen könnten wir auch tatsächlich auch finanziell helfen,

59:24

also denen würden wir dann auch helfen, den Businesscase zu schreiben,

59:26

denen würden wir helfen auch, wenn jetzt beispielsweise um diesen Code herum eine technische Lösung gebaut werden würde,

59:32

denen könnten wir da auch helfen, die Patentierung zu finanzieren und ähnliches.

59:38 timpritlove

Können wir vielleicht mal ein paar Beispiele uns noch mal ausdenken, wohin das so führen könnte,

59:42

so jenseits der medizinischen Beispiele, die wir schon gehabt haben?

59:46 hendrikballhausen

Ich bringe gerne mal so ein, zwei Beispiele, die wir auch mal gebrainstormt haben,

59:51

ohne jetzt irgendwie einen konkreten Interessenten zu benennen.

59:55

Man könnte sich überlegen, dass überall im Vertrieb, da gibt es häufig Vertriebe,

1:00:00

dass die Vertriebler Selbständige sind.

1:00:02

Das heißt, es gibt irgendwo einen großen Konzern und der hat ein Heer von Vertrieblern

1:00:07

und die sind aber eigentlich im Prinzip alles kleine Konkurrenten untereinander.

1:00:11

Jeder Vertriebler möchte gerne selber das neue Geschäft machen.

1:00:14

Andererseits würden diese Vertriebler unglaublich gerne voneinander lernen,

1:00:17

was ist eigentlich die best practice, wie machen das die anderen?

1:00:19

Wollen sich aber gegenseitig natürlich nicht die Daten zeigen lassen.

1:00:21

Also wieviele Minuten verbringe ich mit einem Kunden?

1:00:25

Wieviele Verträge schreibe ich pro Zeit?

1:00:26

Diese typischen Key Performance Indicators, wo normalerweise ein Unternehmensberater für viel Geld käme,

1:00:32

mit denen allen einzeln spricht und dann hinterher eine Präsentation für den Vorstand macht.

1:00:37

Das könnten diese Vertriebler jetzt auch untereinander machen, ohne eine dritte Partei zu brauchen.

1:00:43

Und man könnte Branchenbenchmarks machen, also ein Branchenverband könnte sagen,

1:00:47

wir wollen, auch ohne dass unsere Unternehmen, vielleicht sind es kleine Mittelständler,

1:00:51

ohne dass die jetzt einen teuren Berater einkaufen müssen, dass die sich einfach austauschen können.

1:00:56

Und da kann man natürlich jetzt so etwas schillerndere Beispiele bringen,

1:00:59

dass natürlich auch so Apps wie Tinder eigentlich letztlich nichts anderes sind,

1:01:05

als Leute dezentral irgendwie zusammenzubringen, ohne dass man sich jetzt der Peinlichkeit preisgibt,

1:01:10

sich gegenseitig zu verraten, wen man toll findet.

1:01:12

Also die Welt ist unglaublich weit.

1:01:16 timpritlove

Ich sehe eine Revolution im Datingservice.

1:01:21

Da braucht es natürlich dann auch Vertrauen.

1:01:24

Weil ich meine, wenn man heute angelaufen kommt und sagt, ja alles total sicher hier,

1:01:28

ist alles voll Kryptographie und so, gerade jetzt, wo die Welt in zunehmendem Maße merkt,

1:01:34

wie sie mit dem ganzen Kryptogeldwahnsinn über den Tisch gezogen wird,

1:01:39

da wird ja dann auch sehr viel Vertrauen auch gerade missbraucht und abgenutzt so, so was überhaupt noch zu glauben.

1:01:48 hendrikballhausen

Wenn man so ein Projekt aufzieht, dann sollte man das Stichwort Krypto besser nicht auf der Webseite haben,

1:01:53

sonst ist man schon mal falsch einsortiert.

1:01:56

Wenn man Kryptographie sagt, ist es schon etwas besser.

1:01:59

Wir sprechen eigentlich von verteiltem Rechnen und erklären den Leuten dann was wir meinen.

1:02:04

Was natürlich auch Vertrauen schafft ist, dass wir alles OpenSource haben.

1:02:11

Also es gibt nichts, was jetzt nur wir haben, was jemand anderes nicht hätte,

1:02:16

der das verwenden möchte, der Code ist online, der Code ist public, der Code ist free.

1:02:20

Es ist auch nicht so, die erste Frage, die immer kommt, müssen wir unsere Daten dann auf eure Server?

1:02:24

Nein, wir haben noch nicht mal Server.

1:02:26

Wir haben jetzt schon Server, aber das sind Testserver und die stellen wir kostenlos zur Verfügung

1:02:32

und wir schreiben in die Nutzungsrichtlinien, dass natürlich niemand irgendwelche sensitiven Daten hochladen kann.

1:02:36

Und das schafft natürlich Vertrauen.

1:02:41

Weiter Vertrauen schafft, dass wir öffentlich-rechtlich sind und öffentlich-rechtlich finanziert sind.

1:02:46

Wir machen keinen Profit damit.

1:02:48

Wir haben keine Daten, wir verarbeiten keine Daten.

1:02:50

Und wenn man dann mit den Leuten ins Gespräch kommt und insbesondere auch den Datenschützern das erklärt,

1:02:56

dann verstehen die das in der Regel schon.

1:02:59

Es ist allerdings natürlich wie gesagt es ist für jeden, der da irgendwie mitmacht,

1:03:04

es ist immer eine Abkehr vom Bisherigen.

1:03:06

Und auch für den Datenschützer, der jetzt völlig neu bewerten muss,

1:03:11

nicht ob er etwas darf, das muss er nach wie vor bewerten, sondern auch ob er etwas kann,

1:03:17

ob das Verfahren etwas kann, was das Verfahren verspricht.

1:03:20

Und das sind ja oft mathematische Beweise der Sicherheit.

1:03:24

Und andererseits man muss auch sagen, wir trauen ja auch proprietärer Software.

1:03:33

Wir vertrauen ja proprietären Anbietern an anderer Stelle viel viel viel mehr

1:03:39

und nutzen deren Systeme, ohne diese Frage überhaupt zu stellen.

1:03:41

Aber sobald jemand kommt und sagt, wir machen das jetzt auf sichere Art und Weise,

1:03:46

dann werden die Leute eigentlich erst hellhörig und fragen nach.

1:03:49

Aber ich glaube, wir können das sehr gut erklären.

1:03:51 timpritlove

Es braucht aber auf jeden Fall auch eine gewisse juristische Absicherung an der Stelle.

1:03:55

Weil wenn man das natürlich für sich selber, da kann ich mir alles mögliche herleiten,

1:03:59

ob das dann aber vor Gericht Bestand hat und ich nicht dann doch zu irgendetwas verdonnert werde,

1:04:04

das ist ja noch mal die andere Frage und das Vertrauen zu eurem Projekt ist natürlich das eine,

1:04:09

aber in dem Moment, wo dann halt wirklich ein Startup kommt und sagt,

1:04:11

oh super Idee, das bieten wir jetzt mal hier als Dienstleistung an,

1:04:14

greifen wir doch mal vielleicht das Beispiel mit diesen Branchenbenchmarks auf,

1:04:18

weil das kann man ja im Prinzip eigentlich auf alles so erweitern.

1:04:21

Wenn man jetzt also einen Branchenverband hat, der, was weiß ich, Textilindustrie oder keine Ahnung,

1:04:31

jetzt entsprechende Zahlen, die ja auch im Interesse der eigenen Branche sind erheben möchte,

1:04:37

und bedient sich jetzt vielleicht eines solchen Startups, was eben auf Basis eurer Ideen hier voranschreitet,

1:04:46

wie könnte denn das Startup dann sozusagen sicherstellen, dass dieser Branchenverband da sicher ist

1:04:52

und wie erklärt der Branchenverband das seiner Branche,

1:04:56

dass das sicher genug ist und dort keine Geschäftsgeheimnisse verraten werden?

1:05:02 hendrikballhausen

Also zunächst mal wird diese Initiative auch anwaltlich begleitet.

1:05:07

Also wir haben da einen Anwalt, der sich da in dieses Thema sehr tief eingearbeitet hat.

1:05:13

Du hast natürlich richtig gesagt, es ist noch nicht vor Gericht gewesen.

1:05:16

Also es gibt meines Wissens ein einziges EuGH-Urteil zu der Sache,

1:05:23

da ging es um, aber jetzt nicht aus Deutschland, sondern, ich glaube, es war Estland,

1:05:26

die da sehr viel weiter im, wie nennt man das, E-Government sind, das heißt,

1:05:30

dass die Bürger digital ihre Verwaltungsakte nutzen können.

1:05:37

Und es hat halt noch nie ein BGH geurteilt, es hat noch nie vor dem Deutschen Amtsgericht eine Zivilklage gegeben,

1:05:43

weil einer vom anderen was wollte daraus.

1:05:45

Insofern das einzige, was es gibt, sin anwaltliche Gutachten und die sagen eigentlich so grundsätzlich,

1:05:52

also der Grundtenor ist, es ist eine Verbesserung gegenüber dem Status quo datenschutzrechtlich,

1:06:00

aber die Akteure sind meistens noch in derselben Verantwortung, die sie ohne diese Verfahren hätten.

1:06:07

Das heißt, wo früher ein Kooperationsvertrag geschlossen werden musste,

1:06:12

muss auch heute noch ein Kooperationsvertrag geschlossen werden.

1:06:15

Wo man früher Terminus Technicus von einer gemeinsamen Datenverarbeitung in gemeinsamer Verantwortung gesprochen hätte,

1:06:24

würde man auch heute noch davon sprechen, auch ohne dass die Leute gegenseitig ihre Daten sehen.

1:06:30

Jetzt hast du nach dem Startup gefragt.

1:06:33

Startups scheinen das Problem irgendwie weniger zu haben, die sind meistens sehr risikoaffig.

1:06:38

Also ein Startup, das jetzt wegen einem Datenschutzskandal pleite geht,

1:06:43

das gibt es schon, das gibt es aber auch ohne unsere Verfahren,

1:06:47

das gibt es dann vielleicht mit unseren Verfahren ein bisschen seltener.

1:06:50

Und der Branchenverband, letztlich ist das auch wieder Vertrauen.

1:06:54

Das Startup muss halt vertrauenswürdig gegenüber dem Branchenverband auftreten,

1:06:59

muss es denen erklären, muss auch die eigenen Interessen offenlegen

1:07:04

und der Branchenverband ist dann hoffentlich gegenüber seinen Mitgliedern auch in einer Position,

1:07:08

dass die dem trauen, dass wenn der Vorstand da etwas für gut befunden hat,

1:07:12

dass man dem auch folgen kann.

1:07:15

Aber da gibt es jetzt keine Deus ex Machina Lösung, sondern das ist letztlich,

1:07:20

das sind wieder Menschen, das sind Prozesse, es sind Abstimmungen

1:07:23

und am Ende des Tages auch dort Vertrauen.

1:07:26 timpritlove

Ja bzw. muss man wahrscheinlich auch in die eigene Forschung gehen.

1:07:31

Ich meine, man kann ja immer so den aktuellen Hypes hinterherlaufen,

1:07:33

aber man kann vielleicht auch einfach mal schauen, okay, was sind denn eigentlich unsere tatsächlichen Bedarfe

1:07:38

und dass der Bedarf an Datenauswertung immer da ist, auf die ein oder andere Art und Weise,

1:07:45

haben wir ja schon festgestellt und das würde ja dann letzten Endes bedeuten,

1:07:49

dass solche, ich finde dieses Branchenbeispiel irgendwie sehr gut, weil das ganz illustriert,

1:07:55

okay, wir wollen für uns Daten machen, aber ihr vertraut einander eigentlich nicht,

1:08:00

ihr wollt uns die Daten nicht rausrücken, so, trotzdem wäre es schön,

1:08:05

wenn wir für uns alle eine Statistik haben, wie es denn eigentlich ist, weil das ja für uns auch ein politisches Argument Dritten gegenüber ist.

1:08:12 hendrikballhausen

Absolut.

1:08:13 timpritlove

So und deswegen könnte man dann ja auch argumentieren, okay, ihr versteht das jetzt vielleicht alles noch nicht

1:08:18

und ihr habt da irgendwie juristische Bedenken, naja dann schafft euch doch mal die Kompetenz auch ran

1:08:26

und macht eine Abteilung dafür, die sich damit beschäftigt und vielleicht liegt das auch noch ein paar Jahre in der Zukunft,

1:08:33

aber im Prinzip müsstet ihr diesen Weg gehen, weil auf der anderen Seite leuchtet halt das Licht am Ende des Tunnels,

1:08:39

was dann eben heißt, ihr könnt Auswertungen machen, die ihr derzeit einfach gar nicht machen könnt.

1:08:44 hendrikballhausen

Ja oder für viel Geld, also es hat ja auch sozusagen der einzelne Betrieb hätte ja auch einen Vorteil.

1:08:50

Also das klassische Modell ist ja eigentlich der Unternehmensberater,

1:08:54

der einmal im Kreis zwischen diesen Firmen durchläuft und am Ende bekommt dann jeder diesen typischen Barplot,

1:08:59

wo man dann 20 eingegraute Säulen sieht und eine Säule ist eingefärbt

1:09:03

und dann wird einem verraten, das bist du und du kannst jetzt sehen,

1:09:07

wie du sozusagen unter deinen Mitbewerbern stehst, aber du weißt nicht, wer sind die anderen.

1:09:11

Auch da übrigens differential privacy wird dann immer gerundet und verrauscht bei den anderen Säulen.

1:09:17

Die spannende Frage ist, du sagst jetzt, schafft euch die Kompetenzen.

1:09:21

Das ist eben die Frage, wie häufig wird das denn gebraucht?

1:09:24

Also ich würde mal sagen, von einem kleinen Mittelständler kann man das sicherlich nicht verlangen,

1:09:29

in dem Bereich Kompetenzen zu erwerben, auch selbst von dem Branchenverband.

1:09:33

Es ist ja schon sehr speziell.

1:09:34

Es ist halt die Frage, ob es in Zukunft vielleicht auch Berater gibt, die sagen,

1:09:41

es gibt auch erste Berater, also ich will jetzt hier keine Namen nennen,

1:09:45

aber es gibt unter den großen Technologieberatern gibt es halt eine Firma,

1:09:49

die sich damit seit ein paar Jahren schon beschäftigt und diese Verfahren auch kennt

1:09:52

und auch ihre Klienten darüber informiert, dass man diese Verfahren nutzen kann.

1:10:00 timpritlove

Ja, ich meine ja nicht, dass jetzt jeder Branchenverband jetzt ein komplettes Kompetenzzentrum aufbauen muss,

1:10:08

sondern es reicht ja oft schon, dass man überhaupt erst mal Leute festgebunden in einer Struktur hat,

1:10:15

die sich damit hauptamtlich beschäftigen, das zu verstehen.

1:10:18

Also dass man einfach überhaupt erst mal so eine Vertrauensperson im eigenen Apparat hat,

1:10:23

wo man sagen kann, hast du dir das schon mal angeschaut, ist das was für uns oder ist das nichts.

1:10:30

Was man sich zum Beispiel bei dieser Blockchain häufiger mal wünschen würde,

1:10:33

dass solche Kompetenzzentren existieren, um halt einfach mal zu sehen, worum es sich dabei wirklich handelt.

1:10:38

Anstatt eben einfach immer nur dem aktuellen Hype so hinterher zu hecheln und der einzige Maßstab ist,

1:10:44

aber alle anderen reden ja auch darüber, also muss es toll sein.

1:10:48 hendrikballhausen

Da wären vermutlich die Datenschutzbeauftragten schon genau die richtigen Personen

1:10:52

und die gibt es ja auch in vielen Strukturen schon.

1:10:55 timpritlove

Das stimmt natürlich.

1:10:56 hendrikballhausen

Und das sind eigentlich auch nicht die, die dafür bekannt wären, dass sie jedem Trend hinterherlaufen,

1:11:00

sondern die eigentlich eher darauf bedacht sind, ihre Formalismen auch zu wahren.

1:11:05

Das ist eigentlich ein guter Gedanke, ich würde mir den auch gerne mitnehmen,

1:11:08

dass man vielleicht darauf setzt, dass diese Zusammenarbeit von den domänenspezifischen Datenschutzbeauftragten,

1:11:17

die ja auch auf der anderen Seite ihre Daten sehr gut verstehen,

1:11:20

und dass es dann vielleicht so Startups gäbe, die halt so branchenspezifische Lösungen anbieten,

1:11:27

die dann wirklich einfach genug sind, am Ende des Tages muss es ja wirklich auch ein Programm sein, das läuft.

1:11:32

Also unser OpenSource-Projekt das sind Bibliotheken, das wendet sich aber nicht an Anwender,

1:11:36

das wendet sich wieder an Programmierer.

1:11:40

Und wir haben uns schon sehr viel Mühe gegeben, beispielsweise auch, ohne jetzt zu technisch zu werden,

1:11:47

wir haben unsere Bibliothek so erweitert, dass man damit auch Webseiten bauen kann.

1:11:51

Das heißt, man muss gar nicht mehr unbedingt jetzt ein Programm bauen,

1:11:55

da muss nicht irgendwo ein komplexer Server mit einer komplexen Anwendung laufen,

1:12:00

sondern man kann auch einfach zwei Webseiten miteinander rechnen lassen.

1:12:03

Das heißt, du hast deinen Browser offen, ich habe meinen Browser offen, dritte Person hat ihren Browser offen,

1:12:07

und dann können wir genau das machen.

1:12:09

Und dann müsste so ein Startup eigentlich nichts anderes machen als sagen,

1:12:13

wir bauen jetzt eine schöne Webseite, irgendwie branchenspezifisch, je nachdem

1:12:18

ob es jetzt Agrar ist oder Stahl ist, sondern irgendwie vielleicht in grün oder grau gehalten

1:12:25

und in dem Nutzerinterface, natürlich auch entsprechende sozusagen Zugangskontrollen,

1:12:32

und dann könnte man auch einfach Webseiten bauen, die das machen.

1:12:34

Und das wäre dann schon viel zugänglicher als den Leuten zu sagen,

1:12:38

ihr braucht jetzt einen total komplizierten TechStack(?), ihr braucht einen schwierigen Server

1:12:44

mit einem bestimmten Betriebssystem, das war auch übrigens einer,

1:12:46

wenn ich das noch sagen darf, einer unserer Ansätze, warum Federates Secure Computing,

1:12:52

was ist die Federation darin?

1:12:54

Wir wollen halt auch unterschiedliche Systeme zusammenbringen.

1:12:57

Wenn man einen Branchenverband hat mit vielleicht 40 Mitgliedsunternehmen,

1:13:02

dann werden die unterschiedliche IT-Systeme haben.

1:13:05

Und das sehen wir zum Beispiel auch in der Medizininformatikinitiative,

1:13:10

da gemeinsame Standars zu schaffen, hat Jahre gedauert.

1:13:14

Das heißt, jetzt 40 Leuten zu sagen, ihr braucht dasselbe Betriebssystem

1:13:16

und ihr braucht noch denselben Technologie Stack(?) und so weiter und so fort.

1:13:19 timpritlove

Datenformate.

1:13:21 hendrikballhausen

Datenformate, geht gar nicht.

1:13:25

Deswegen eben dieser Ansatz, ihr könnt das programmieren mit was ihr wollt,

1:13:28

wir haben Clients für alle Sprachen, es ist betriebssystemunabhängig,

1:13:32

es läuft selbst auf meinem Android-Smartphone, ich habe es auf meinem Android-Smartphone,

1:13:35

da läuft es ganz genauso drauf, es läuft inzwischen auch auf dem Rasperry Pie,

1:13:38

also es können auch Schüler, Schulen können das vielleicht auch mal gerne ausprobieren.

1:13:43

Und das ist noch eben so ein wichtiger Punkt, use what you have

1:13:47

und verwendet weiter das, was ihr kennt.

1:13:49

Auch damit alleine sind schon Hürden abgebaut.

1:13:52

Und das ist letztlich das, was wir mit unserem Projekt wollen,

1:13:54

Hürden abbauen, Hürden, abbauen, Hürden abbauen und Awareness schaffen.

1:13:58 timpritlove

Und am Ende braucht es eigentlich nur noch so eine kollektive Taxonomie,

1:14:01

in der man dann halt die tatsächlichen Daten dann so berechnet und zusammenführt,

1:14:06

wie man sie dann eben gerne hätte, aber man muss nicht an den eigenen Datenbeständen groß was ändern.

1:14:10 hendrikballhausen

Richtig.

1:14:11 timpritlove

Man muss sie nur in dem Moment, wo diese Berechnungen durchgeführt werden,

1:14:15

die Daten eingesammelt werden, entsprechend abbilden können und selber auch lokal prozessieren können.

1:14:20 hendrikballhausen

Ja, richtig.

1:14:25 timpritlove

Na, das klingt doch alles nach blühenden Landschaften.

1:14:30 hendrikballhausen

Ja, wir hoffen, wir haben jetzt drei Jahre Zeit, dass das funktionieren kann

1:14:35

und wir freuen uns natürlich auf und über jeden Interessenten.

1:14:43 timpritlove

Also die drei Jahre, die jetzt durch die Wirkung hoch 100 Preis finanziert wurde vom Stifterverband.

1:14:49 hendrikballhausen

Ganz genau.

1:14:50

Wir würden natürlich auch versuchen, uns durch andere Drittmittelantragstellungen querzufinanzieren.

1:14:56

Also wir sehen das jetzt schon in der Medizin natürlich, wenn es jetzt andere Drittmittelprojekte gibt,

1:15:02

die das auch verwenden, dann sorgen wir dafür, dass da ein bisschen was zurückfließt.

1:15:06

Gar nicht jetzt aus Profitinteresse, sondern einfach um den Topf dieses Drittmittelprojektes weiter zu stärken.

1:15:14

Aber das allermeiste kommt im Moment vom Stifterverband und das ist auch genau das richtige Format,

1:15:20

um eben jetzt diese Showcases darzustellen.

1:15:25 timpritlove

Und wird dann die LMU die erste sein, die das auch wirklich zur Anwendung bringt?

1:15:29 hendrikballhausen

Na, die LMU hat es ja schon verwandt die die Charité hat es auch verwandt

1:15:33

und einige andere Universitäten.

1:15:35

Tatsächlich würden wir uns jetzt ganz besonders freuen, wenn ein, zwei dieser Ideen,

1:15:41

die wir jetzt in diesem, sage ich mal, Spannungsfeld von Public Sector, Private Sector stattfinden, funktionieren würden.

1:15:49

Da gibt es interessante Usecases aus der Automobilindustrie,

1:15:55

da gibt es ja zum Beispiel auch am Horizont dieses Gaia X, diese europäische Cloud-Plattform,

1:16:01

die ja eigentlich eher ein gemeinsames Arbeiten auch an Protokollen und Formaten ist,

1:16:08

da würde es sehr gut hineinpassen.

1:16:11

Aber letztendlich muss ich ganz ehrlich sagen, ich würde mich im Moment am allerallerallermeisten freuen,

1:16:17

wenn wirklich ein junges Gründerteam kommt oder ein kleiner Mittelständler,

1:16:21

der sagt, das ist genau das, was wir gesucht haben und wir bauen jetzt eine ganz knackige,

1:16:27

konkrete, spannende Anwendung da drum herum.

1:16:32

Das wäre eigentlich das, was mich persönlich am meisten freuen würde.

1:16:36 timpritlove

Gibt es alles auf FederatedSecure.com

1:16:40 hendrikballhausen

FederatedSecure.com, das ist unsere Landingpage, gerne hinschauen

1:16:43

oder für die Leute, die jetzt nah an den Keyboards sitzen und programmieren wollen,

1:16:49

auf Github FDRTD, federated ist die Sammlung unserer Repositorien(?)

1:16:55

und jederzeit gerne mitmachen, unser Projekt wächst und gedeiht natürlich auch nur mit Leuten,

1:17:02

nicht nur die das benutzen, sondern die dann auch zurückgeben,

1:17:06

genau das ist ja auch die Philosophie eines OpenSource-Projektes.

1:17:09 timpritlove

Genau.

1:17:10

Ja, würde ich sagen, haben wir alles zusammengefegt oder, was man hierzu sagen kann?

1:17:18 hendrikballhausen

Ganz herzlichen Dank.

1:17:19 timpritlove

Ja, ich habe zu danken.

1:17:21

Ja, und ich danke auch fürs Zuhören hier bei Forschergeist.

1:17:25

Das war die 95. Ausgabe und hier geht es bald wieder weiter.

1:17:30

Bis dahin sage ich, tschüss und bis bald.