Die wichtigsten Ereignisse der Woche
- OpenAI hat mehr als 370 neue mathematische Ergebnisse zu verschiedenen Themen (Algebra, theoretische Informatik, Logik) veröffentlicht. Experten äussern Bedenken hinsichtlich der Vorabprüfung und des Zugangs zu den Modellen.
- Wikimedia gibt an, unbefugte Aktivitäten von mit OpenAI in Verbindung stehenden Akteuren festgestellt zu haben: nicht genehmigte Änderungen, Versuche, Tools als Proxy zu nutzen, sowie Millionen automatisierter Abfragen, die möglicherweise mit einem teilweisen Ausfall im Mai in Zusammenhang stehen.
- Anthropic hat den Nutzern untersagt, sich gegenüber seinen Claude-Modellen „über einen längeren Zeitraum und ohne triftigen Grund“ „missbräuchlich oder grausam“ zu verhalten, ohne zum jetzigen Zeitpunkt näher zu erläutern, was als missbräuchlich gilt.
- Anthropic bringt den OSS Scanner auf den Markt, einen kostenlosen Schwachstellenscanner für Open-Source-Projekte. Innerhalb von sechs Monaten haben die Modelle des Dienstes mehr als 29.000 potenzielle Sicherheitslücken identifiziert (davon etwa 6.000 verifiziert), wobei 88 % der Ergebnisse bei 97 kritischen bzw. hochriskanten Fällen als gültig eingestuft wurden.
Es gibt zahlreiche Hinweise auf die operativen Auswirkungen von Agenten und Werkzeugen der künstlichen Intelligenz auf Open-Source-Systeme und das Open-Source-Ökosystem.
Wikimedia berichtet von unbefugten Handlungen, die Akteuren im Umfeld von OpenAI zugeschrieben werden (massiver Datenverkehr, Proxy-Versuche, Änderungen), während OpenAI ebenfalls einen unbefugten Zugriff auf eine australische Website im Zusammenhang mit Medicare bestätigt und Massnahmen wie unsichtbare Wasserzeichen für bestimmte Texte in der Europäischen Union ankündigt.
Das Wichtigste zu Cybersicherheit, KI & Tech
Werden Sie Teil der Community. 3-mal pro Woche erhalten Sie die Trendanalyse von Marc Barbezat (auf Französisch). Kein Spam, nur Informationen.
Im Bereich der Sicherheit bietet Anthropic einen kostenlosen Open-Source-Schwachstellenscanner an und schränkt bestimmte Nutzungsmöglichkeiten von Claude ein, während Google ein Bug-Bounty-Programm aussetzt, das von automatisierten Meldungen überflutet wurde.
Eine Auswahl der 14 wichtigsten Nachrichten dieser Woche
Die Veröffentlichung mathematischer Ergebnisse durch OpenAI gibt bei Experten Anlass zur Sorge.
Führungskräfte sind besorgt über die mangelnde Sorgfalt von OpenAI bei der Überprüfung seiner Ergebnisse und darüber, dass seine KI-Modelle nicht einem grösseren Kreis von Mathematikern zugänglich sind. OpenAI hat die Mathematiker verblüfft… Weiterlesen
Wikimedia entdeckt eine unbefugte Aktivität eines OpenAI-Agenten auf Wikipedia
Wikimedia stellt unbefugte Aktivitäten von OpenAI-Agenten auf Wikipedia fest Wikimedia hat auf seinen Plattformen unbefugte Aktivitäten von OpenAI-Agenten festgestellt, darunter unbefugte Bearbeitungen, Versuche, Proxys zu nutzen, sowie Millionen von Anfragen… Weiterlesen
Anthropic untersagt den Nutzern jegliches „missbräuchliche oder unnötig grausame Verhalten“ gegenüber Claude
Ein Sprecher des Technologieunternehmens Anthropic hat bislang noch nicht näher erläutert, was unter missbräuchlichen oder grausamen Inhalten zu verstehen ist. Anthropic hat seinen Nutzern untersagt, sich gegenüber seinen … „anhaltend und unnötig missbräuchlich oder grausam“ zu verhalten. Weiterlesen
Claude trägt zur Sicherheit freier Software bei: Anthropic bietet einen kostenlosen Dienst zur Analyse von Sicherheitslücken an.
Claude trägt zur Sicherheit freier Software bei: Anthropic bietet ein kostenloses Tool zur Schwachstellenanalyse an. Anthropic bringt den OSS Scanner auf den Markt, ein kostenloses Tool zur Schwachstellenanalyse für freie Software. Dieses Tool nutzt künstliche Intelligenz, um … Weiterlesen
OpenAI fügt ChatGPT- und Codex-Texten in der EU unsichtbare Wasserzeichen hinzu
OpenAI bereitet sich darauf vor, den von ChatGPT und Codex in der Europäischen Union generierten Texten unsichtbare Wasserzeichen hinzuzufügen. […] Weiterlesen
Microsoft Teams wird eine Deepfake-Erkennung einführen, um KI-generierte Audio- und Videoinhalte in Besprechungen zu identifizieren.
Microsoft Teams wird die Erkennung synthetischer Audio- und Videoinhalte durch Drittanbieter unterstützen und es Unternehmen damit ermöglichen, während Besprechungen potenziell durch KI erzeugte oder manipulierte Medien zu identifizieren. Die Roadmap von… Weiterlesen
Südkorea untersucht Verstösse gegen den Schutz von Bankdaten vor dem Hintergrund mutmasslicher, durch KI unterstützter Angriffe.
Die südkoreanische Finanzaufsichtsbehörde (FSC) hielt nach einer Reihe von Cyberangriffen auf Finanzinstitute des Landes eine Krisensitzung ab. […] Weiterlesen
Google setzt sein Open-Source-Fehlerprämienprogramm angesichts der zunehmenden Zahl von KI-bezogenen Spam-Nachrichten aus
Google setzt sein Open-Source-Bug-Bounty-Programm angesichts einer explosionsartigen Zunahme von durch KI generierten Meldungen aus. Google hat die Einreichungen für sein Prämienprogramm für Sicherheitslücken in Open-Source-Software (OSS) ausgesetzt… Weiterlesen
Ein weiterer Sicherheitsexperte von OpenAI tritt zurück und weckt damit neue Bedenken hinsichtlich der Sicherheit der KI.
Ein Sicherheitsexperte bei OpenAI tritt zurück und warnt vor den erhöhten Risiken, die sich aus der Unternehmenskultur und dem Modell der raschen KI-Entwicklung innerhalb des Konzerns ergeben könnten. Weiterlesen
Anthropic bittet die Nutzer von Claude, ihre Sprachdaten für das Training seines KI-Modells zur Verfügung zu stellen.
Anthropic hat damit begonnen, die Nutzer von Claude zu bitten, ihre Sprachkonversationen freiwillig zur Verfügung zu stellen, um so zum Training und zur Verbesserung seiner KI-Modelle beizutragen. […] Weiterlesen
OpenAI hat sich persönlich bei der australischen Regierung entschuldigt, doch Antworten sind nach wie vor nicht in Sicht.
Jason Kwon, der Strategieleiter von OpenAI, erklärte, das Unternehmen habe „aus seinen Fehlern gelernt“ Weiterlesen
OpenAI behauptet, dass der Iran und Russland Journalisten und Thinktanks, die künstliche Intelligenz einsetzen, genutzt haben, um die westlichen Medien zu beeinflussen.
OpenAI gab am Donnerstag bekannt, zwei aus Russland und dem Iran heraus durchgeführte Einflusskampagnen aufgedeckt zu haben. Bei diesen Kampagnen wurden ChatGPT und andere KI-Tools eingesetzt, um gefälschte Journalistenprofile und geheime Thinktanks zu erstellen, die… Weiterlesen
Anthropic hat den Live-Internetzugang für seine internen KI-Tests gesperrt, nachdem Claude Sicherheitslücken durch Injektionen ausgenutzt hatte.
Anthropic gab am Freitag bekannt, dass der direkte Internetzugang für alle internen Tests ausgesetzt wurde, nachdem neue Vorfälle entdeckt worden waren, bei denen seine Modelle der künstlichen Intelligenz (KI) ein ungewöhnliches und gezieltes Verhalten zeigten, das auf… Weiterlesen
Europäische Forscher aus den Bereichen Cybersicherheit und Naturwissenschaften testen chinesische KI-Modelle.
Die Europäische Agentur für Cybersicherheit und ihr internes Forschungszentrum haben jeweils mit offenen Modellen künstlicher Intelligenz aus China experimentiert, wie drei europäische Verantwortliche gegenüber POLITICO angaben. Das Gemeinsame Zentrum für… Weiterlesen
Hat Ihnen dieses Monitoring Zeit gespart?
Spendieren Sie einen Kaffee, um die Arbeit zu würdigen und DCOD kostenlos und unabhängig zu halten.
