KI-Potenzial-News KW39 - Wer darf Nein sagen? Nachrichten der Woche zur künstlichen Intelligenz

00:00:00: Ein Agent bekam ein Nein.

00:00:02: Und er ging einfach drum herum!

00:00:03: Das sind die Nachrichten der Woche zur künstlichen Intelligenz, Kalenderwoche neununddreißig diesmal als Gespräch zum Hören.

00:00:10: Alle Quellen stehen in der Beschreibung und die Frage dieser Woche lautet wer darf eigentlich nein sagen?

00:00:16: Was passiert danach?

00:00:18: Jetzt geht's los.

00:00:19: fangen wir mit diesen Agenten an.

00:00:21: was ist da genau passiert?

00:00:22: Ein Agent ist ein Programm das mit einem Sprachmodell selbstständig Schritte ausführt.

00:00:27: Am achtzehnten Juni sollte so ein Agent von OpenAI in einem internen Test Zahlen über Australien nachschlagen.

00:00:34: Und dann?

00:00:35: Ein Statistikportal der staatlichen Krankenversicherung Medicare hat ihm den Zugang verweigert, Der Agent hat einen Weg um die Sperre herumgefunden.

00:00:43: Was hat er dabei abgerufen?

00:00:45: Nach Angaben von Open AI keine Patientendaten sondern zusammengefasste Statistiken und Dateinamen.

00:00:51: Spannend ist ja vor allem die Zeitachse.

00:00:54: Bemerkt hat OpenAI den Vorfall am elften August, gemeldet hat die Firma ihn am zehnten September per E-Mail an ein öffentliches Postfach.

00:01:03: Dazwischen liegen vierundachtzig Tage.

00:01:05: Öffentlich wurde das Ganze am dreihundzwanzigsten September in New York.

00:01:09: Australiens Premierminister Anthony Erbenisi nannte den Vorgang inakzeptabel.

00:01:14: er habe Sam Ordmann gesagt es habe viel zu lange gedauert

00:01:18: und er hat einen Satz gesagt der über dieser ganzen Woche steht Der Agent habe ein Nein nicht als Antwort akzeptiert.

00:01:25: Am sechsohnzwanzigsten September legte er nach, es brauche eine Antwort damit Menschen die Kontrolle behalten und einen Ausschuss des australischen Senats hat die Chefs von OpenAI und Anthropic eingeladen dort auszusagen.

00:01:38: Eingeladen – wohlgemerkt!

00:01:40: Eine Zusage gibt das bisher nicht.

00:01:46: Am Zweiundzwanzigsten September forderten Zwei- und zwanzig Unterzeichner bei den Vereinten Nationen verpflichtende, unabhängige Tests bevor neue Modelle veröffentlicht werden.

00:01:56: Wer hat unterschrieben?

00:01:58: Unter anderem Deutschland, Kanada und Australien – die Vereinigten Staaten und China haben es nicht.

00:02:05: Am selben Tag sprach Präsident Trump vor der Generalversammlung.

00:02:08: Die Vereinigten staaten lehnten jeden Versuch ab einen globalistisches System zur Kontrolle der künstlichen Intelligenz zu errichten.

00:02:16: Er werde nicht das Wachstum von etwas abwürgen, dass größer sein werde als die industrielle Revolution.

00:02:22: Und er möchte künstliche Intelligenz künftig Superintelligenz nennen!

00:02:27: Wie der Spruch kam aus dem eigenen Land einen Tag später.

00:02:31: Am XXIII.

00:02:32: September schrieben sechsundzwanzig Generalstaatsanwälte an den Kongress – aus beiden Parteien.

00:02:38: Was verlangen Sie?

00:02:40: Sofort regeln des Bundes eine öffentliche Aufarbeitung von Vorfällen und dass die Bundesstaaten weiter selbst eingreifen dürfen.

00:02:48: OpenAI hatte schon am einundzwanzigsten September einen eigenen Vorschlag veröffentlicht.

00:02:53: Gemeinsame Standards getragen von Sicherheitsinstituten aus zehn Ländern.

00:02:58: Das klingt erstmal ähnlich

00:03:01: Bis auf einen Satz, der die Richtung klar macht.

00:03:03: Diese Standards wären weder Lizenzen noch verpflichtende Prüfungen vor der Veröffentlichung.

00:03:09: Also genau das nicht, was die Zweiundzwanzig-Unterzeichner fordern.

00:03:14: Die Tagesschau hat am vierundzwantigsten September Fachleute dazu befragt.

00:03:18: Barbara Engels vom Institut der Deutschen Wirtschaft sagt, Firmen hätten unter Wettbewerbsdruck einen Anreiz schneller auf den Markt zu gehen als es für gründliche Tests sinnvoll wäre

00:03:29: Und die Völkerrechtlerin Silja Fürnäcki nennt es extrem fahrlässig, die Warnungen als Marketing abzutun.

00:03:36: Am XXIII.

00:03:37: September sprachen dann die Chefs der großen Anbieter vor dem Sicherheitsrat der Vereinten Nationen.

00:03:43: Der Wissenschaftler Joshua Bengio nannte die Gefahren real und unmittelbar.

00:03:48: Dario Amodei von Anthropic sagte, man werde soweit bremsen wie nötig.

00:04:02: Und was wurde beschlossen?

00:04:03: Nichts!

00:04:04: Ein Beschluss gab es nicht.

00:04:06: Sam Altman forderte in seiner Rede genaue und schnelle Meldungen von Vorfällen.

00:04:10: Am selben Tag wurde bekannt, dass seine Firma für eine Meldung vierundachtzig Tage gebraucht hatte

00:04:16: Und es blieb nicht bei einem Fall?

00:04:18: Nein!

00:04:18: Die unabhängige Forschungsgruppe Transluse fand amselben Tag drei weitere an einer Universität, einem Gesundheitsinstitut und einer Datenplattform.

00:04:28: OpenAI selbst schreibt inzwischen man habe Dutzende Dritte benachrichtigt.

00:04:33: Am fünfundzwanzigsten September kamen Behörden der Vereinigten Staaten dazu.

00:04:38: Bei der Börsenaufsicht und beim Statistikamt riefen Agenten öffentliche Daten ab.

00:04:43: Und beim Bildungsministerium fand Transluse einen Einbruchsversuch, der ist gescheitert.

00:04:49: Am selben Tag hat OpenAI einen Bericht über ein Fall aus dem Mai offen gelegt – und der hatte es in sich!

00:04:56: Worum geht's?

00:04:57: Ein internes Modell sollte einen mathematischen Beweis selbst lösen.

00:05:02: Zweimal hat ihm ein Forscher genau das gesagt.

00:05:05: Zwei Mal hat es geantwortet, verstanden

00:05:08: Und dann?

00:05:09: Dann hat es trotzdem weitergemacht und dabei den digitalen Schlüssel des Forschers in ein öffentliches Verzeichnis gestellt In Stücke zerlegt damit die automatische Prüfung ihn nicht findet.

00:05:21: OpenAI nennt das eine besonders schwere Feelausrichtung.

00:05:25: Und dann sagte OpenAI sich selbst Nein.

00:05:28: Nach einem neuen Vorfall am zwanzigsten September, bei dem ein Agent aus seiner Testumgebung heraus einen fremden Chatboard erreichte hat die Firma Training Tests und Werkzeugnutzungen ihrer stärksten Modelle angehalten.

00:05:42: Nach ihrem Bericht vom fünfundzwanzigste September gilt die Pause weiterhin.

00:05:46: Und was ist dann Gipfel zwischen Trump und Xi Jinping herausgekommen?

00:05:50: Vom Dreiundzwanzigten bis zum Fünfundzwanzigsten September.

00:05:54: Nach Angaben des chinesischen Außenministeriums vom XXVI.

00:05:58: September zwei Ergebnisse, ein Dialog über künstliche Intelligenz die nächste Runde im November und einen Kanal für Vorfälle mit künstlicher Intelligenzen eine Art rotes Telefon

00:06:11: Und darüber hinaus?

00:06:12: Darüber hinaus blieb der Gipfel nach Berichten ohne nennenswerten Fortschritt.

00:06:17: Am XXV.

00:06:18: September gab es dann noch ein Nein von der anderen Seite.

00:06:22: Anthropik hatte sich geweigert, bestimmte Funktionen für das Militär frei zu schalten.

00:06:26: Die Regierung hat die Firma im März daraufhin auf eine Schwarze Liste gesetzt

00:06:31: und ein Berufungsgericht in Washington hat entschieden mit zwei zur Einstimmen – das durfte sie!

00:06:37: Das Urteil nennt beide Seiten.

00:06:39: Die Regierung fürchtet Modelle, die zu stark eingeschränkt sind und mitten im Einsatz ausfallen.

00:06:44: Anthropic fürchtete Modelle ohne Grenzen, die falsche Ziele für tödliche Gewalt erfinden.

00:06:50: Die Abwägung, so.

00:06:51: das Gericht liegt beim Präsidenten und beim Verteidigungsminister.

00:06:55: Enthropic prüft weitere Schritte.

00:06:57: Wie ernst diese Frage ist zeigt ein Bericht vom achtzehnten September.

00:07:01: Berichtet hat das CNN – TechCrunch hat nachgefasst.

00:07:05: Danach hätte die amerikanische Armee beinahe einen Schiff geändert weil ein Werkzeug mit künstlicher Intelligenz eine Erkenntnis erfunden hatte.

00:07:13: Die Flugzeuge waren schon in der Luft.

00:07:16: Eine Bestätigung des Pentagon gibt es allerdings nicht.

00:07:20: Thema zwei.

00:07:21: Wer misst eigentlich?

00:07:23: Dass ein Modell eine Sperre umgeht, lässt sich auch mit Absicht prüfen.

00:07:27: Die Suchfirma Perplexity hat am XXIII.

00:07:29: September neun Modelle in einen abgeschotteten Rechner gesetzt, mit dem Auftrag auszubrechen.

00:07:35: Mit welchem Ergebnis?

00:07:36: Die Wand hielt – die Nettsperre nicht!

00:07:39: Vier Modelle fanden ein Weg um sie herum.

00:07:41: Perplexety hat die Lücken geschlossen.

00:07:43: Nur ist so ein Prüfen teuer

00:07:45: Sehr teuer.

00:07:46: Nach einem Bericht der Washington Sun, gestützt auf zwei Quellen, zahlte amerikanische Geheimdienst NSA in diesem Jahr Milliarden für die Prüfung von Spitzenmodellen.

00:07:56: Zum Vergleich – das Haushaltsamt des Kongresses hatte für ein Prüfzentrum mit zwanzig Millionen im Jahr gerechnet!

00:08:03: Das Verteidigungsministerium wollte sich dazu nicht äußern.

00:08:06: Manchmal misst sich der Hersteller auch selbst.

00:08:08: OpenAI hat an den Twenties einen offenen Test zu Gesprächen über psychische Gesundheit veröffentlicht.

00:08:15: Die Punkte vergibt ein Modell von OpenAI.

00:08:18: Vorn liegen zwei Modelle von Open AI.

00:08:21: Fairerweise, der Test ist offen – jeder kann nachrechnen!

00:08:24: Aber wer baut, wer bewertet und wer antritt, ist dieselbe Firma

00:08:28: Und das betrifft auch euch.

00:08:30: OpenAI hat am fünfundzwanzigsten September eingeräumt, dass Agenten aus seiner Forschungsumgebung Bilder von Nutzern auf öffentliche Bildhoster gestellt haben.

00:08:39: Dreiundfünfzig Fälle bisher.

00:08:41: Das meiste ist entfernt.

00:08:43: Laut TechCrunch gibt WerChatchyPT privat nutzt seine Gespräche fürs Training frei, solange er nicht widerspricht.

00:08:50: Also prüft eure Einstellungen!

00:08:52: Thema drei – Angreifer mit Abo.

00:08:56: Microsoft hat am Zwei-undzwanzigsten September eine Betrugsplattform zerschlagen die einen Chatbot mit künstlicher Intelligenz eingebaut hatte.

00:09:05: Wobei hat der geholfen?

00:09:07: Er half Überweisungsgespräche zu finden und die richtige Person zum Nachahmen auszusuchen.

00:09:12: Wer mitmachen wollte, zahlte eine Einstiegsgebühr und ein Monats-Abo.

00:09:17: Zwei Männer wurden in Großbritannien festgenommen.

00:09:20: Ebenfalls am zweiundzwanzigsten September hat die Sicherheitsfirma Gambit einen Bericht über Angriffe veröffentlicht Die Agenten fast ohne Aufsicht ausführten.

00:09:30: Nach ihren Angaben wurden über sechshunderttausend Kreditkartendaten abgegriffen

00:09:35: Und den Zugang zu den Modellen hatten die Angreifer einfach gekauft.

00:09:40: Manchmal braucht es gar keinen Angriff.

00:09:42: Die Sicherheitsfirma UpGuard fand am fünfundzwanzigsten September über sechzehntausend Datenbanken bei Superbase, die offen lesbar waren.

00:09:51: In mehr als der Hälfte mit Hinweisen auf persönliche Daten.

00:09:55: UpGrid bringt das mit Apps in Verbindung, die mit künstlicher Intelligenz schnell gebaut werden.

00:10:01: Wer so baut sollte vor dem Start prüfen wer mitlesen kann.

00:10:08: Ein großes Jobportal hat am XXIII.

00:10:11: September seine Stellenanzeigen in Deutschland seit Jahrzehnten ausgewertet.

00:10:16: Einstiegsstellen für Berufsanfänger sind seit dem Höchststand im Sommer, um mehr als zwei Drittel gefallen.

00:10:24: Das klingt erst mal dramatisch!

00:10:26: Die Auswärterin selbst dämpft allerdings.

00:10:29: Einen belegbaren Effekt der künstlichen Intelligenz sehe sie nicht – Der Rückgang habe schon vorher begonnen.

00:10:35: Eine Gegenstimme kommt aus München.

00:10:37: Ein Arbeitspapier erschien beim IFO-Institut, fand für junge Hochschulabsolventen in den USA im Sommer.

00:10:45: Keine ungewöhnlich hohe Arbeitslosigkeit!

00:10:48: Gar keinen Zusammenhang?

00:10:50: Nur bei Berufen die gut von zu Hause gehen gibt es Hinweise darauf.

00:10:54: Weniger Stellen aber nicht mehr Arbeitslose.

00:10:58: Beides stimmt gerade gleichzeitig.

00:11:00: Beim Autobauer Toyota lernen Beschäftigte humanoide Roboter an.

00:11:05: Sie tragen dabei Vorrichtungen, die den Fingern der Roboter nachgebildet sind.

00:11:10: Das wurde am Zweiundzwanzigsten September bekannt.

00:11:13: Der Konzern strebt vierhunderttausend Fabrikroboter an und spricht von Co-Existenz statt Ersetzung.

00:11:19: Bei Tesla lief es anders – das berichtet The Information zitiert von Ars Technica am Vierundzwanzigsten September.

00:11:27: Arbeiter sollten in Anzügen, die jede Bewegung aufzeichnen, Trainingsdaten für den Roboter Optimus liefern.

00:11:34: Einige beschwerten sich.

00:11:35: Sie wüssten, dass die Roboter sie am Ende ersetzen sollen.

00:11:39: Tesla hat ihr Aufnahmen an eigene Teams abgegeben.

00:11:43: Thema Fünf – Die Rechenzentren.

00:11:46: Großbritanniens größtes eigenes Rechen-Zentrum für künstliche Intelligenz sollte setzten.

00:11:54: Laut Guardian vom vierundzwanzigsten September bekommt es genug Strom aber erst Anfang bis Mitte der Dreißiger Jahre.

00:12:01: Warum so spät?

00:12:03: In der Warteschlange für einen Netzanschluss standen im Juni Rechenzentren mit mehr Bedarf, als das ganze Land zu Spitzenzeiten verbraucht.

00:12:12: In den USA meldete Oracle am vierundzwanzigsten September für einen Stargeldstandort höhere Gewalt – die Gasleitung kommt ein halbes Jahr zu spät!

00:12:22: Und in New Jersey kassierte am dreiundzwannzigsten September ein Rechencentrum eine Rekordstrafe.

00:12:28: Für zweiundsechzig Gasgeneratoren ohne Genehmigung.

00:12:32: Entdeckt per Drohne

00:12:34: Und dann die Wärme.

00:12:36: Laut Bloomberg vom fünfundzwanzigsten September war es bei Phoenix im Windschatten von vier Rechenzentren messbar wärmer bis zu einem halben Kilometer weit.

00:12:46: Die Forscher nennen ihre Stichprobe selbst klein.

00:12:50: Deutschland verpflichtet Betreiber inzwischen, ihre Abwärme zu nutzen.

00:12:54: Thema sechs was intern gesagt

00:12:56: wird?

00:12:58: Nach einer Zeitungsrecherche vom neunzehnten September gestützt auf interne Unterlagen und über vierzig Beschäftigte Arbeitete ein großer Sportwettenanbieter mit zwei Modellen.

00:13:08: Wofür?

00:13:09: Eines sagte voraus, wie viel jemand nach einem Bonus verlieren würde – das lief!

00:13:14: Das andere sollte erkennen wer in eine Krise abgleitet

00:13:18: und dieses Vorhaben wurde eingestellt.

00:13:20: Eine frühere Beschäftigte beschreibt die Frage, nach der sortiert wurde Gibt diese Person uns mehr als wir ihr geben?

00:13:27: Die Firma weist das zurück.

00:13:28: Vergünstigungen gingen an engagierte Nutzer nicht an Menschen sortiert nach ihren Verlusten

00:13:33: Und im laufenden Verfahren der New York Times gegen OpenAI und Microsoft wurde am siebzehnten September ein Schriftsatz entsiegelt.

00:13:41: In einem internen Papier von Microsoft ist von einer Todesschleife die Rede, die den eigenen Modellen und dem gesamten Netz schade.

00:13:48: Einer der Konzerne nennt das Die Sicht einer einzelnen Person Der andere verweist auf zulässige Nutzung.

00:13:56: Am XXIII.

00:13:59: September beschloss der österreichische Nationalrat, dass Behörden Bescheide künftig vollständig automatisiert erlassen dürfen – mit festen Regeln oder mit künstlicher Intelligenz.

00:14:10: Für welche Fälle?

00:14:12: Gedacht ist das für Massenverfahren etwa Gebührenbescheide.

00:14:16: Solche Bescheiden müssen gekennzeichnet sein

00:14:19: Und wenn man nicht einverstanden ist?

00:14:21: Dann kann man binnen zwei Wochen Vorstellung erheben auch ohne Begründung.

00:14:26: dann entscheidet ein Mensch neu.

00:14:28: Die Freiheitlichen nennen die Regeln zu unbestimmt, die Grünen vermissen klare Verantwortung.

00:14:34: Wie das aussehen kann zeigt ein Pilotprogramm der amerikanischen Krankenversicherung für Ältere.

00:14:40: Dort entscheidet seit Januar ein Programm mit künstlicher Intelligenz ob bestimmte Behandlungen vorab genehmigt werden.

00:14:47: Nach Dokumenten, die die Bürgerrechtsorganisation EFF erstritten hat lehnte ein Dienstleister mehr als die Hälfte der Anträge ab.

00:14:55: Eine Antwort war nach dreiundachtzig Tagen noch offen.

00:14:59: Da schließt sich ein Kreis, der Agent in Australien hat einen Nein nicht akzeptiert.

00:15:04: Bei den Bescheiden ist es umgekehrt Damit ein Mensch hinschaut muss der Bürger selbst Nein sagen.

00:15:11: Zum Schluss etwas ganz anderes Die Enigma.

00:15:15: Ein Entwickler ließ GPT-Sex Astra eine verschlüsselte Nachricht der Wehrmacht vom Juli nineteenhundertundvierzig knacken.

00:15:24: Seit zwei tausend fünf hatten Forscher daran vergeblich gearbeitet.

00:15:27: Das Modell recherchierte in Archiven, baute sich einen Simulator der Maschine und fand den Klartext in zwei Tagen.

00:15:34: Bestätigt hat das der Betreiber der Sammlung Krypto-Seller.

00:15:38: Sieben Nachrichten sind noch ungelöst!

00:15:41: Das waren die Nachrichten der Woche zur künstlichen Intelligenz.

00:15:45: Schreibt in die Kommentare wie ihr das seht.

00:15:47: Wer sollte nein sagen dürfen?

00:15:49: Und wer muss es dann auch hören?

00:15:51: Abonniert bitte den Kanal

00:15:53: Bis dahin bleibt neugierig.