Notizen machen - Pro und Contra

[ai19]

Letztens hatte ich eine Unterhaltung mit jemandem, der sich eine Box eines amerikanischen Buchhändlers ins Wohnzimmer stellte.

Ich fragte ihn, warum er von den Amerikanern sämtliche Unterhaltungen belauschen lässt, die er in seinem Wohnzimmer führt.

Da meinte er, ich sei doch total doof, die Kiste höre doch erst zu, wenn man sie bei ihrem weiblichen Namen ruft.

Dann fragte ich, woher die Kisten denn wissen kann, dass er den weiblichen Namen gerufen hat... ohne dass die Kiste jedes einzelne Wort anhört und analysiert... und woher er weiß, was dann mit all den analysierten Wörtern hinterher passiert...

Es kam dann hinterher heraus, dass die Unterhaltungen, die nicht automatisch erkannt werden, tatsächlich auf deren Servern landen und von Personen angehört und transkribiert werden, um die automatische Erkennung zu verbessern.

Ich habe mir mal den Netzwerkverkehr angeschaut, den die ganzen Apps bei mir zuhause machen. Den Vogel schoss ein amerikanischer Hersteller von Betriebssystemen und Bürosoftware ab. Der hat auf meinem Rechner klammheimlich ein VPN installiert, um Daten nach Hause zu senden. Nicht nur senden die von meinem eigenen Rechner Daten nach Hause, sondern ich darf noch nicht einmal sehen, was die nach Hause schicken, indem sie es in einem VPN verstecken und verschlüsseln. Diese Software ist sofort von meinem Privatrechner geflogen.

Bei handschriftlichen Notizen merke ich wenigstens, dass sie weg sind, wenn sie geklaut wurden.

Beste Grüße,
Arda

[Thom]

Ja, die Instrumente sind da. Die Frage ist nur, wozu sie verwendet werden.

V.G.
Thomas

[Sebastian528]

Liebe(r) Arda,

sehr feinsinnig argumentiert, was die allwissende Müllhalde und deren Anrufung betrifft.
Nun allerdings bin ich neugierig geworden, als ich deine Beschreibung las: Wie und wo kann ich denn das VPN finden, das auf dem Windows-Rechner versteckt ist? Ich vermute, es geht um Windows 10. Ich würde nämlich gerne dies dann auch löschen und dem ewigen Vergessen anheimfallen lassen...
Gibst Du mir einen Tipp - bitte?

[MobyDick]

Dann fragte ich, woher die Kisten denn wissen kann, dass er den weiblichen Namen gerufen hat... ohne dass die Kiste jedes einzelne Wort anhört und analysiert... und woher er weiß, was dann mit all den analysierten Wörtern hinterher passiert...

Wenn Halbwissen auf Paranoia trifft... "Alexa" ist nur ein einziges Wort, das die KI aus dem vom Mikro aufgenommenen Audiostrom "heraushören" muss. Warum sollte das Gerät dafür jedes einzelne Wort analysieren? Wenn du auf den Pizzaboten wartest, musst du auch nur aufs Türklingeln achten und nicht Wort für Wort verstehen, was nebenbei im Radio gesagt wird.

Die Aufgabe, ein bestimmtes Wort zu erkennen ist so begrenzt, das kann problemlos lokal auf dem Echo laufen. Verschickt wird erst wenn das Triggerwort erkannt wird und da macht eine KI wie ein Mensch oder Tier auch, von Zeit zu Zeit Fehler, dessen muss man sich halt bewusst sein. Ein Triggerwort aus einem Audiostrom herauszuhören, mache ich übrigens auf einem Arduino Uno mit 16 MHz und 2 KB RAM. Allerdings suche ich noch einen Mikrokontroller, der bei ähnlichen Leistungsdaten mit ner Knopfzelle läuft …

[ai19]

Dann fragte ich, woher die Kisten denn wissen kann, dass er den weiblichen Namen gerufen hat... ohne dass die Kiste jedes einzelne Wort anhört und analysiert... und woher er weiß, was dann mit all den analysierten Wörtern hinterher passiert...

Wenn Halbwissen auf Paranoia trifft... "Alexa" ist nur ein einziges Wort, das die KI aus dem vom Mikro aufgenommenen Audiostrom "heraushören" muss. Warum sollte das Gerät dafür jedes einzelne Wort analysieren?

Wie unterscheidest Du denn das Triggerwort von all den anderen?

Im Prinzip hast Du schon recht, man könnte einen binären Klassifikator trainieren, der alle gesprochenen Wörter einteilt in "Alexa" und "nicht Alexa".

Was ich mit meinem Halbwissen jetzt nicht verstanden habe, ist, wie man diese Klassifizierung durchführt, ohne jedes gesprochene Wort zu klassifizieren, um herauszufinden, ob sich das Triggerwort im Strom befunden hat.

Beste Grüße,
Arda

[Horsa]

Und ich dachte immer, man entwickelt die Paranoia erst wenn man über fundiertes Wissen um diese Thematik verfügt.
Ich bin verwirrt.

Auch ohne umfassende Kompetenz bleibe ich in Liebe zu Papier und Tinte zurückhaltend skeptisch.

Liebe Grüße

Horsa

[Thom]

Ach so, es geht um Alexa, da wäre ich ja nie draufgekommen. Amazon will halt mein Geld,
wir sind gewissermaßen wechselseitig berechenbar.

V.G.
Thomas

[MobyDick]

Also ich machs "quick and dirty", Amazon machts sicher eleganter.

Ich habe das Wort ein paar 100 Mal aufgenommen, die Daten auf die Länge hin normiert, vereinfacht, komprimiert und damit mein Netz trainiert. Im trainierten Netz sind die ganzen Aufnahmen als Assoziationsmuster gespeichert (und nein, man kann aus einem trainierten Netz die einzelnen Aufnahmen nicht wieder rekonstruieren, man kann aber andere coole Dinge damit machen). Die Ausgangsschicht gibt 0 (= kein Treffer) oder 1 (= Treffer) aus.

Den Audiostrom zerlege ich alle 250 ms in Stücke der gleichen Länge wie bei den Trainingsdaten und schicke sie durchs Netz. Kommt ne 1 bei raus - d. h. das Netz erkennt Ähnlichkeit zu den Mustern -, wird die Aktion ausgelöst. Gespeichert wird nichts, es sind immer nur die gerade verarbeiteten Daten im System.

Wie gesagt, "analysiert" werden im Sinne eines semantischen Verständnisses muss da nix, auch wenn man es könnte.

[Thom]

An einer offiziellen Amazon-Paranoia will ich mich auch nicht beteiligen. Mich beunruhigen nicht die Leute, die mein Geld wollen.
Mich beunruhigen die Leute, die mein Geld nicht wollen.

V.G.
Thomas

[ai19]

Liebe(r) Arda,

sehr feinsinnig argumentiert, was die allwissende Müllhalde und deren Anrufung betrifft.
Nun allerdings bin ich neugierig geworden, als ich deine Beschreibung las: Wie und wo kann ich denn das VPN finden, das auf dem Windows-Rechner versteckt ist? Ich vermute, es geht um Windows 10. Ich würde nämlich gerne dies dann auch löschen und dem ewigen Vergessen anheimfallen lassen...
Gibst Du mir einen Tipp - bitte?

Hallo Sebastian,

es handelte sich um .NET Core auf einem Linux-Rechner. Die installieren OpenVPN mit auf dem System.

OpenVPN legt ein virtuelles Netzwerkinterface an, das z.B. mit "tun0" bezeichnet wird. Um dann den Netzwerkverkehr, der im VPN bleiben soll, korrekt zu routen, legt es Einträge in der Routingtabelle des Kernels an, wo bestimmte Subnetze dann Routen bekommen, die über besagtes tun0 laufen.

Auf der Kommandozeile in Linux kann man sich das mit "route -n" anzeigen lassen.

Ich muss zugeben, dass ich es nur deswegen bemerkt habe, weil ich eigene VPN-Verbindungen definiert habe und Microsoft meine Routingtabelle kaputt gemacht hat, sodass auf einmal meine VPN-Verbindungen nicht mehr funktionierten.

Eine Überprüfung der Netzwerkeinstellungen förderte dann zutage, dass auf einmal ein VPN auf meinem System eingerichtet war, von dem ich gar nichts wusste.

Wie das unter Windows läuft, kann ich Dir leider nicht verraten; ich mache seit bald 20 Jahren nichts mehr mit Windows.

Beste Grüße,
Arda

[ai19]

Wie gesagt, "analysiert" werden im Sinne eines semantischen Verständnisses muss da nix, auch wenn man es könnte.

Das ist mir auch klar. Der Punkt ist, dass man es könnte.

Warum will die Regierung Zugriff auf die Daten von Smart Homes?

Smart Home: Innenminister planen Zugriff auf Daten von Alexa & Co.

Die Daten aus dem Smart Home und von digitalen Assistenten sollen als Beweismittel vor Gericht einsetzbar sein. Das planen laut einem Bericht die Innenminister.

Siehe
https://www.heise.de/newsticker/meldung ... 39526.html

Amazon-Mitarbeiter tippen zum Teil Alexa-Sprachbefehle ab

Wer hört, was die Nutzer Sprach-Assistenten erzählen? Amazon lässt laut einem Bericht manche Audio-Aufnahmen auch von Mitarbeitern prüfen und abtippen.

Siehe https://www.heise.de/newsticker/meldung ... 74871.html

Womöglich gibt es ein physikalisches Naturgesetz, das Missbrauch verhindert, das gehört wohl zu meinem Halbwissen.

Der Punkt ist, dass man dem amerikanischen Buchhändler einfach vertrauen muss, dass er kein Schindluder mit den Audioaufzeichnungen treibt. Wissen kann ich das nicht, aber deswegen bin ja auch nur so ein Halbwissender.

Beste Grüße,
Arda

PS. Was Du beschreibst, ist ein "binärer Klassifikator", also machst Du nichts anderes, als was ich beschrieben habe.

[ai19]

An einer offiziellen Amazon-Paranoia will ich mich auch nicht beteiligen. Mich beunruhigen nicht die Leute, die mein Geld wollen.
Mich beunruhigen die Leute, die mein Geld nicht wollen.

V.G.
Thomas

Mir ist das doch völlig egal, ob einer sich so ein Teil in die Bude stellt oder nicht.

Mir fehlt nur der Respekt vor Menschen, die sich darin moralisch überlegen vorkommen, völlig fremden Leuten zu vertrauen, um dann in Schnappatmung zu verfallen, wenn ein Edward Snowden ein paar Dinge enthüllt oder sogar die Kommunikation unserer Regierungschefin belauscht wird.

Ja, was denn? Wenn ich jemand Wildfremdem auf der Straße meine ec-Karte samt PIN in die Hand drücke, er mir versichert, dass das bei ihm alles ganz sicher sei, und der dann mein Konto leerräumt, wer ist dann der Doofe?

Das kann man gerne machen, nur muss man sich halt einfach im klaren sein, was man da macht. Mehr sage ich doch nicht.

Beste Grüße,
Arda

[Thom]

Arda, ich weiß das alles und noch einiges mehr. Uns sollte aber niemals der Respekt vor Menschen fehlen,
denn das ist der Anfang allen Übels.

V.G.
Thomas

[ai19]

Arda, ich weiß das alles und noch einiges mehr. Uns sollte aber niemals der Respekt vor Menschen fehlen,
denn das ist der Anfang allen Übels.

V.G.
Thomas

Ich hätte mich präziser ausdrücken und mich auf das konkrete Verhalten beziehen sollen, das ich beschrieben habe. Jeder Mensch verdient Anstand und Höflichkeit im Umgang, darin sind wir uns einig.

Aber wenn jemand etwas Verwerfliches tut, z.B. - nur als Beispiel! - im Suff seine Frau verprügeln, dann muss man das nicht respektieren. Da bin ich vielleicht altmodisch.

Ich kann nicht mitreden, ich habe das nicht erlebt, mein Vater hat als Kind und Jugendlicher den Kommunismus erlebt, deswegen bin ich vielleicht empfindlicher und dankbarer als andere, denen die demokratischen Freiheiten, die wir genießen, allzu selbstverständlich vorkommen.

Beste Grüße,
Arda

[MobyDick]

DISCLAIMER: OFF TOPIC

Das ist mir auch klar. Der Punkt ist, dass man es könnte.

Man könnte auch von Heidelberg nach Mannheim über Kaiserslautern fahren. Wenn die Dinger plötzlich alle Audioaufnahmen an amazon schicken, wird das sehr schnell auffallen.

Warum will die Regierung Zugriff auf die Daten von Smart Homes?

Smart Home: Innenminister planen Zugriff auf Daten von Alexa & Co.

Die Daten aus dem Smart Home und von digitalen Assistenten sollen als Beweismittel vor Gericht einsetzbar sein. Das planen laut einem Bericht die Innenminister.

Siehe
https://www.heise.de/newsticker/meldung ... 39526.html

Auf richterlichen Beschluss können jetzt schon Hausdurchsuchungen oder eine Überwachung der Telekommunikation stattfinden. Es ist legitim, dass diskutiert wird, solche Geräte mit einzubeziehen. Als Telefone aufkamen, hat man das auch gemacht. Das unterscheidet übrigens Rechtstaaten von anderen Staatsformen. Hier wird diskutiert und es entscheidet ein Parlament mit frei und geheim gewählten VolksvertreterInnen darüber.

Amazon-Mitarbeiter tippen zum Teil Alexa-Sprachbefehle ab

Wer hört, was die Nutzer Sprach-Assistenten erzählen? Amazon lässt laut einem Bericht manche Audio-Aufnahmen auch von Mitarbeitern prüfen und abtippen.

Siehe https://www.heise.de/newsticker/meldung ... 74871.html

Bei deiner Bank, in dem Unternehmen, in dem Du angestellt bist, bei den Sozialversicherungen, beim Finanzamt, beim Arzt, bei der Schufa oder an der Tanke, in der du mit Karte zahlst, oder bei Betreibern von Internetforen weißt du auch nicht, wer alles Zugriff auf deine Daten hat.

Und abtippen muss halt sein. Für jemand, der die Basics von Machine Learning und KI kennt, ist es keine Überraschung, sonder schlicht notwendig, dass solche Systeme Trainingsdaten brauchen und dass die irgendwoher kommen müssen. (Dazu noch ne Anmerkung unten.)

Der Punkt ist, dass man dem amerikanischen Buchhändler einfach vertrauen muss, dass er kein Schindluder mit den Audioaufzeichnungen treibt. Wissen kann ich das nicht, aber deswegen bin ja auch nur so ein Halbwissender.

Ein Problem ist halt, wenn man bei Amazon (nenns doch beim Namen, wir sind hier doch nicht im Kindergarten) sensibel ist, gleichzeitig mit viel sensibleren Daten unbekümmert umgeht.

PS. Was Du beschreibst, ist ein "binärer Klassifikator", also machst Du nichts anderes, als was ich beschrieben habe.

Rein auf die Ausgabe bezogen schon. Das neue an KNNs ist allerdings die Methode, wie er zu der Einschätzung kommt.

Und da du dich von dem Wort Halbwissen offenkundig beleidigt fühlst. In den 1980ern und frühen 90ern sah der Umgang mit Computern noch anders aus. Das war sehr viel fundierter. Wenn man sich Zeitschriften aus der Zeit anguckt, gehen die sehr viel mehr in die Tiefe. Da gehts um konkrete Architekturen, Programmierung, Bastelprojekte und und und. Ich habe bei mir im Regal noch die "Computerfibel für die Geisteswissenschaften" von 1986 stehen. Da steht drin, wie man ne Datenbanksoftware programmiert! Das Buch ist von C. H. Beck(!) für Geisteswissenschaftler! So was würde man heute in einem Computerbuch für die Zielgruppe nicht mehr finden. Warum? Die Hintergründe interessieren halt keinen mehr. Das führt dann dazu, dass vom "Volksmund" bestimmte Dinge vollkommen überbewertet und andere vollkommen unterbewertet werden.

Damit will ichs aber zu diesem Thema bewenden lassen, das ist weder Thema des Forums noch des Threads.