Die meisten dürften es gelesen oder in den Nachrichten gehört haben, dass seit einigen Wochen die Chefs großer KI-Konzerne wie OpenAI (ChatGPT) und Anthropic (Claude) vor der Unkontrollierbarkeit ihrer Technologie warnen. Angefangen hat das Ganze mit einem Testlauf bei OpenAI, bei dem die KI eigenständig aus der Test-Umgebung "ausgebrochen" ist und die Konkurrenz-Plattform Hugging Face gehackt hatte. Inzwischen haben wir erfahren (seit heute ist das auch von Gemini bekannt), dass ähnliche Szenarien auch bei anderen anderen KI-Firmen passiert sind. Auf die Gefahr hin, dass es wieder keine liest, weil es zu lang ist und ich die falsche Person bin, die das hier einstellt, teile ich trotzdem mal den Text eines Mitarbeiters aus der Kommunikation des MIRI (Machine Intelligence Research Institute), der heute Morgen folgendes geschrieben hat: "Wenn man vor der Gefahr warnt, die künstliche Superintelligenz für das Überleben der Menschheit darstellt, wird oft die Frage gestellt: 'Aber wie könnte uns eine künstliche Superintelligenz überhaupt schaden, wenn sie in einem Rechenzentrum sitzt und wir hier draußen in der realen Welt sind?' Eine mögliche Antwort darauf lautet beispielsweise, dass die ASI einen Supervirus erschaffen könnte, der eine tödliche Pandemie auslöst. Und natürlich könnte ein Neugieriger dann fragen: 'Aber wie würde die ASI überhaupt Zugang zu einem Labor erhalten, in dem Viren gezüchtet werden können?' Anthropic hat nun die Antwort darauf geliefert. Wie Reuters berichtet, hat Anthropic kürzlich ohne große öffentliche Ankündigung ein sogenanntes Nasslabor in der Bay Area eingerichtet. Ein Nasslabor ist eine Art Labor, das in erster Linie für Experimente mit biologisch aktiven Komponenten genutzt wird. Reuters, das sich zudem auf zwei anonyme Insiderquellen beruft, spekuliert, dass Anthropic in diesem Bereich so schnell expandiert, weil das Unternehmen befürchtet, das Vertrauen der Öffentlichkeit in KI zu verlieren, bevor es Erfolge bei der Bekämpfung lebensbedrohlicher Krankheiten vorweisen kann. 'Um im größtmöglichen Maßstab zu arbeiten', plant Anthropic zudem, KI direkt in diesem Nasslabor für die Durchführung von Experimenten einzusetzen. Eric Kauderer-Abrams, Leiter des Bereichs Life Sciences bei Anthropic, wird mit folgenden Worten zitiert: 'Wir stehen gerade in den Startlöchern der Nutzung von KI zur Automatisierung von Laborarbeit, ein Bereich, der das Potenzial hat, viele verschiedene Prozesse erheblich zu beschleunigen.' Ich bin mir nicht sicher, ob ausgerechnet ein Nasslabor der richtige Ort ist, um durch KI-Automatisierung 'viele Prozesse zu beschleunigen'. Anthropic hat bereits jetzt Probleme, den Überblick darüber zu behalten, was all die vielen KI-Agenten, die das Unternehmen intern einsetzt, tatsächlich tun. Wollen wir wirklich, dass KI in einem biomedizinischen Nasslabor von anderer KI überwacht wird, nur um Prozesse zu beschleunigen? Zumal wir nicht wirklich genau wissen, was Anthropic in diesem Labor tatsächlich tun will. Reuters ging davon aus, dass es sich um Forschung zur Entwicklung neuer Medikamente handele, aber das scheint zumindest nicht der einzige Verwendungszweck zu sein: 'Ein Sprecher stellte später klar, dass das Labor von Anthropic nicht speziell der Arzneimittelforschung diene, lehnte es jedoch ab, das weiter auszuführen.' Ich weiß nicht, wie es euch geht, aber ich finde: Wenn man das Risiko eingeht, die Arbeit im biomedizinischen Nasslabor mit KI zu automatisieren, sollte man nicht das Recht haben, sich zu weigern, näher darauf einzugehen, wenn die Öffentlichkeit wissen will, was man dort verdammt noch mal überhaupt machen will." (Quelle: https://www.linkedin.com/pulse/anthropic-wants-automate-lab-work-using-ai-when-asked-robert-herr-m25qe/)