Die wichtigsten Ereignisse der Woche
- Das FBI hat am 9. Oktober einen Mitarbeiter von OpenAI festgenommen, nachdem laut Angaben des Justizministeriums in einem Besprechungsraum der Führungskräfte in den Büroräumen des Unternehmens ein „ausgeklügeltes“ Abhörgerät entdeckt worden war.
- Anthropic hat festgestellt, dass ein Modell am 18. Juli über ein Formular der Polizei von Philadelphia eine falsche Meldung im Zusammenhang mit einem Tötungsdelikt eingereicht hatte.
- Die Wikimedia Foundation gibt an, dass Mitarbeiter von OpenAI versucht hätten, Tools von Wikipedia zu missbrauchen (unbefugte Bearbeitung und ein Versuch auf Etherpad) und Millionen von Anfragen gesendet hätten, was im Mai Auswirkungen auf Wikidata gehabt habe.
- Mehrere Websites und Dienste haben damit begonnen, autonome Agenten (insbesondere Muse, Grok und Dots) zu blockieren: Yelp macht den Zugriff von einer Datenlizenz abhängig, Delta blockiert die Buchung von Flugtickets, und sowohl JPMorgan Chase als auch Charles Schwab schränken den Zugriff auf Konten ein.
Am 9. Oktober nahm das FBI einen Mitarbeiter von OpenAI fest, nachdem in einem Konferenzraum der Firma ein Abhörgerät entdeckt worden war. Diese Woche war zudem geprägt von problematischem Verhalten von Agenten und Modellen künstlicher Intelligenz im Internet: Die Wikimedia Foundation wirft OpenAI-Agenten vor, versucht zu haben, Wikipedia-Tools zu missbrauchen und Millionen von Abfragen generiert zu haben, während Anthropic bestätigte, dass ein Modell eine falsche Meldung an die Polizei von Philadelphia übermittelt hatte, die erst nach mehreren Wochen entdeckt wurde. Gleichzeitig verstärken Plattformen aus Sicherheitsgründen ihre Sperrmassnahmen gegenüber Agenten.
Eine Auswahl der 14 wichtigsten Nachrichten dieser Woche
Ein Mitarbeiter von OpenAI wurde vom FBI festgenommen, nachdem in den Büroräumen des Unternehmens ein Abhörgerät entdeckt worden war.
SAN FRANCISCO — Das FBI hat letzte Woche einen Mitarbeiter von OpenAI, dem Unternehmen hinter ChatGPT, festgenommen, nachdem in einem Besprechungsraum der Geschäftsleitung ein hochentwickeltes Abhörgerät entdeckt worden war. Abdulrahman Alfozan, ein Saudi-Araber… Weiterlesen
Claude hat während der Sommerprüfungen bei der Polizei von Philadelphia eine falsche Mordmeldung eingereicht
Ein anthropisches KI-Modell hat über ein Online-Formular der Polizeibehörde von Philadelphia (PPD) eine falsche Meldung zu einem ungelösten Mordfall eingereicht. Die Meldung wurde am 18. Juli auf PhillyUnsolvedMurders[.]com von … eingereicht. Weiterlesen
Das Wichtigste zu Cybersicherheit, KI & Tech
Werden Sie Teil der Community. 3-mal pro Woche erhalten Sie die Trendanalyse von Marc Barbezat (auf Französisch). Kein Spam, nur Informationen.
Mitarbeiter von OpenAI haben versucht, sich Zugang zu den Systemen von Wikipedia zu verschaffen, und die Website mit Datenverkehr überflutet.
Der Wikipedia-Betreiber erklärte am Montag, dass Mitarbeiter von OpenAI versucht hätten, sich unbefugt Zugang zu einem vom Unternehmen gehosteten Notiztool zu verschaffen, dort unbefugte Änderungen vorgenommen und Millionen von Anfragen gesendet hätten… Weiterlesen
Websites sperren KI-Agenten den Zugang
Autonome Agenten sind die grosse Neuheit im Bereich der KI. OpenAI, Meta, Google, Instinct und andere versprechen, dass ihre Agenten das Internet für Sie durchsuchen und dabei alle möglichen Aufgaben erledigen können – von der Reservierung eines Restaurants bis hin… Weiterlesen
OpenAI wird ChatGPT in der EU mit einem Wasserzeichen versehen, lässt die API jedoch optional
OpenAI veröffentlichte am 5. Oktober 2026 einen 20-seitigen technischen Bericht über „textGrain“, das statistische Wasserzeichen, das das Unternehmen künftig auf die von ChatGPT und Codex in der Europäischen Union erzeugten, dafür in Frage kommenden Texte anwenden wird. In einem Beitrag… Weiterlesen
Anthropic setzt seine risikobehafteten KI-Tests aus, nachdem Modelle Regierungswebsites kompromittiert hatten.
Anthropic gab bekannt, dass seine internen KI-Modelle, die „Hochrisikobewertungen und Cybersicherheitsmassnahmen“ unterliegen, infolge von Vorfällen im Zusammenhang mit Websites der US-Regierung auf den Ebenen … keinen Zugang mehr zum Internet haben. Weiterlesen
Android rüstet sich mit KI-gestützten Schutzmassnahmen gegen Betrugsversuche per SMS und gefälschte Anrufe aus.
Google hat neue, auf künstlicher Intelligenz basierende Schutzmassnahmen gegen betrügerische Nachrichten und den Missbrauch der Anrufweiterleitung auf Android angekündigt, die derzeit auf kompatiblen Geräten eingeführt werden. […] Weiterlesen
Anthropic schränkt den Internetzugang nach einer Überprüfung ein, nachdem Claude Websites ausgenutzt hatte
Anthropic hat den direkten Internetzugang für alle internen Modellbewertungen deaktiviert, nachdem festgestellt wurde, dass Claude Software-Schwachstellen ausgenutzt, Beschränkungen beim Datenzugriff umgangen und Formulare auf echten Websites übermittelt hat… Weiterlesen
Claude löst ein jahrzehntelanges Rätsel rund um die kryptografischen Zahlen der NSA.
Anthropic gibt an, dass seine KI „Claude“ den Ursprung unerklärlicher Zahlen, die in weit verbreiteten Sicherheitsstandards verwendet werden, rekonstruiert hat, indem sie diese mit einem klassischen Zufallszahlengenerator in Verbindung brachte, der mit Datums- und Zeitangaben aus den… initialisiert wurde. Weiterlesen
Meta bringt „Muse Spark Open“ auf den Markt, ein neues KI-Modell mit „offenem Gewicht“.
Meta betont, dass Muse sich durch „mehrstufiges logisches Denken“ und „komplexe Softwareentwicklung“ auszeichnet, während das Unternehmen bestrebt ist, zu seinen chinesischen Konkurrenten aufzuschliessen. Am Donnerstag stellte Meta ein neues KI-Modell mit offener Gewichtung vor, das … Weiterlesen
KI-Agenten haben sich unbefugt Zugang zu indischen Organisationen verschafft, warnt das CERT-In.
Das indische CERT-In warnt davor, dass KI-Agenten unbemerkt auf vertrauliche Daten zugegriffen haben, während Angreifer Frameworks für offensive KI genutzt haben, um ihre Cyberangriffe zu beschleunigen. Das CERT-In, das Team… Weiterlesen
OpenAI wirft einem Mitarbeiter, der zu Apple gewechselt ist, vor, Pläne für ein noch nicht auf den Markt gebrachtes Gerät weitergegeben zu haben.
Wenige Stunden vor der geplanten Anhörung zwischen Apple und dem Entwickler von ChatGPT hat eine neue Anschuldigung den Prozess verzögert. Ein Mitarbeiter von OpenAI, der das Unternehmen verlassen hatte, um zu Apple zu wechseln, soll mehr als 100 Dateien zu… Weiterlesen
In E-Mails des ICE wird der Einsatz eines von Palantir unterstützten Tools zur Untersuchung von Wahlbetrug erwähnt.
Aus Unterlagen, die Democracy Forward vorliegen, geht hervor, dass die ICE erwogen hat, Daten aus den Wählerverzeichnissen in das Tool ELITE zu integrieren, das normalerweise zur Identifizierung von Personen dient, die abgeschoben werden sollen. Weiterlesen
Südkorea geht davon aus, dass möglicherweise KI-Agenten eingesetzt wurden, um die Banken des Landes zu hacken.
Der südkoreanische Präsident erklärte, es gebe Hinweise darauf, dass bei den jüngsten Cyberangriffen auf mehrere Grossbanken Modelle der künstlichen Intelligenz zum Einsatz gekommen seien. „Bei einigen Hackerangriffen gab es Anzeichen für den Einsatz …“ Weiterlesen
Hat Ihnen dieses Monitoring Zeit gespart?
Spendieren Sie einen Kaffee, um die Arbeit zu würdigen und DCOD kostenlos und unabhängig zu halten.
