Die meisten dürften es gelesen oder in den Nachrichten gehört haben, dass seit einigen Wochen die Chefs großer KI-Konzerne wie OpenAI (ChatGPT) und Anthropic (Claude) vor der Unkontrollierbarkeit ihrer Technologie warnen. Angefangen hat das Ganze mit einem Testlauf bei OpenAI, bei dem die KI eigenständig aus der Test-Umgebung "ausgebrochen" ist und die Konkurrenz-Plattform Hugging Face gehackt hatte. Inzwischen haben wir erfahren (seit heute ist das auch von Gemini bekannt), dass ähnliche Szenarien auch bei anderen anderen KI-Firmen passiert sind. Auf die Gefahr hin, dass es wieder keine liest, weil es zu lang ist und ich die falsche Person bin, die das hier einstellt, teile ich trotzdem mal den Text eines Mitarbeiters aus der Kommunikation des MIRI (Machine Intelligence Research Institute), der heute Morgen folgendes geschrieben hat: "Wenn man vor der Gefahr warnt, die künstliche Superintelligenz für das Überleben der Menschheit darstellt, wird oft die Frage gestellt: 'Aber wie könnte uns eine künstliche Superintelligenz überhaupt schaden, wenn sie in einem Rechenzentrum sitzt und wir hier draußen in der realen Welt sind?' Eine mögliche Antwort darauf lautet beispielsweise, dass die ASI einen Supervirus erschaffen könnte, der eine tödliche Pandemie auslöst. Und natürlich könnte ein Neugieriger dann fragen: 'Aber wie würde die ASI überhaupt Zugang zu einem Labor erhalten, in dem Viren gezüchtet werden können?' Anthropic hat nun die Antwort darauf geliefert. Wie Reuters berichtet, hat Anthropic kürzlich ohne große öffentliche Ankündigung ein sogenanntes Nasslabor in der Bay Area eingerichtet. Ein Nasslabor ist eine Art Labor, das in erster Linie für Experimente mit biologisch aktiven Komponenten genutzt wird. Reuters, das sich zudem auf zwei anonyme Insiderquellen beruft, spekuliert, dass Anthropic in diesem Bereich so schnell expandiert, weil das Unternehmen befürchtet, das Vertrauen der Öffentlichkeit in KI zu verlieren, bevor es Erfolge bei der Bekämpfung lebensbedrohlicher Krankheiten vorweisen kann. 'Um im größtmöglichen Maßstab zu arbeiten', plant Anthropic zudem, KI direkt in diesem Nasslabor für die Durchführung von Experimenten einzusetzen. Eric Kauderer-Abrams, Leiter des Bereichs Life Sciences bei Anthropic, wird mit folgenden Worten zitiert: 'Wir stehen gerade in den Startlöchern der Nutzung von KI zur Automatisierung von Laborarbeit, ein Bereich, der das Potenzial hat, viele verschiedene Prozesse erheblich zu beschleunigen.' Ich bin mir nicht sicher, ob ausgerechnet ein Nasslabor der richtige Ort ist, um durch KI-Automatisierung 'viele Prozesse zu beschleunigen'. Anthropic hat bereits jetzt Probleme, den Überblick darüber zu behalten, was all die vielen KI-Agenten, die das Unternehmen intern einsetzt, tatsächlich tun. Wollen wir wirklich, dass KI in einem biomedizinischen Nasslabor von anderer KI überwacht wird, nur um Prozesse zu beschleunigen? Zumal wir nicht wirklich genau wissen, was Anthropic in diesem Labor tatsächlich tun will. Reuters ging davon aus, dass es sich um Forschung zur Entwicklung neuer Medikamente handele, aber das scheint zumindest nicht der einzige Verwendungszweck zu sein: 'Ein Sprecher stellte später klar, dass das Labor von Anthropic nicht speziell der Arzneimittelforschung diene, lehnte es jedoch ab, das weiter auszuführen.' Ich weiß nicht, wie es euch geht, aber ich finde: Wenn man das Risiko eingeht, die Arbeit im biomedizinischen Nasslabor mit KI zu automatisieren, sollte man nicht das Recht haben, sich zu weigern, näher darauf einzugehen, wenn die Öffentlichkeit wissen will, was man dort verdammt noch mal überhaupt machen will." (Quelle: https://www.linkedin.com/pulse/anthropic-wants-automate-lab-work-using-ai-when-asked-robert-herr-m25qe/)
Antwort auf Beitrag von User-1792264373
Es gibt wie immer zwei Seiten. Einerseits sollte man Technologie offen bleiben, da sie ja auch enorme Vorteile bringt, andererseits müssen die Gefahren im Blick behalten werden. In solchen sensiblen Bereichen, wie oben beschrieben, müssen Sicherheitsvorkehrungen getroffen werden, ohne allerdings wieder eine endlose Vorschriftenflut zu generieren. Das wird ein Balanceakt. Im Zuge der weiteren Ausweitung der KI wird es eine massive Veränderung in unserer Gesellschaft geben, da sollten sich Politiker mal ernsthafte Gedanken machen, speziell was die Steuerpolitik angeht. Grundsätzlich muss man aber leider sagen, dass Deutschland eher Technologie feindlich ist und aktuell sehr rückwärtsgewandt. Ja, es gibt Gefahren, aber eben auch sehr große Chancen.
Antwort auf Beitrag von Shanalou
Entschuldige, ich war gestern Abend verabredet und habe zwar noch in meinem Mail-Postfach gesehen, dass jemand geantwortet hat, bin dann aber einfach nur noch ins Bett gefallen. ;-) "Es gibt wie immer zwei Seiten. Einerseits sollte man Technologie offen bleiben, da sie ja auch enorme Vorteile bringt, andererseits müssen die Gefahren im Blick behalten werden." Auf jeden Fall, dafür ist die Politik ja - grundsätzlich auch sensibilisiert. Nicht umsonst haben sowohl die EU als auch die USA entsprechende Gesetze bzw. Präsidialverordnungen erlassen. Allerdings sind die zahnlose Tiger, wenn sie nur sehr untergeordnete Aspekte regeln wie der AI Act auf EU-Ebene oder wenn, wie im Falle der USA, ein skrupelloser Kleptokrat an die Macht kommt und alles wieder rückgängig macht. "Grundsätzlich muss man aber leider sagen, dass Deutschland eher Technologie feindlich ist und aktuell sehr rückwärtsgewandt." Ja, das gilt leider nicht nur für Deutschland, sondern für die EU insgesamt, wobei man sich schon auch fragen muss, ob das nicht auch am wirtschaftlichen Gewicht und der technologischen Führerschaft Deutschlands liegt, das deshalb auf demokratischem Wege auch anderslautende Initiativen aus anderen Ländern schlichtweg ausbremst. Was KI betrifft, spielt die EU keine Rolle mehr, da hängen wir nicht Jahre, sondern über ein Jahrzehnt zurück. Was aber nicht an der Regulierung liegt, sondern schlicht daran, dass die EU eine Wirtschafts- und Rechtsgemeinschaft ist, es aber keine richtig eigenständige - und wissenschaftsbasierte - Zukunftsstrategie gibt. Das liegt nicht daran, dass es die Köpfe hier nicht gäbe, aber aus einer Mischung aus Frust über Bürokratiewust und deshalb Langsamkeit in allen Prozessen sowie oftmals schlechterer Forschungsbedingungen und Verdienstmöglichkeiten wandern eben auch fähige Köpfe ab, wenn bessere Perspektiven in Übersee winken. "Das wird ein Balanceakt. Im Zuge der weiteren Ausweitung der KI wird es eine massive Veränderung in unserer Gesellschaft geben, da sollten sich Politiker mal ernsthafte Gedanken machen, speziell was die Steuerpolitik angeht." Auf jeden Fall, aber auch da sehe ich keinerlei Initiative von der Politik ausgehen. Viele der Leute aus Dirk Spechts Community machen sich nicht nur über die technologischen und ökonomischen Aspekte Gedanken, sondern auch über die gesellschaftlichen Folgen, die sehen wir ja auch gerade bereits. Es gibt etliche Berufszweige, die von KI gefährdet sind, das sind längst nicht nur die Textberufe wie meiner oder die Kreativ- und Dienstleistungsberufe, sondern auch Berufe im Bereich der Informatik, des Patentrechts, der Medizintechnik und Pharmazie, aber auch in Handwerk und Industrieproduktion und sicher mittelfristig auch auf dem Bau. Und dem muss sich natürlich die Steuerpolitik anpassen, denn KI kauft keine Waren und muss auch nirgendwo wohnen. Irgendwo in diesem System müssen auch die materiellen Ressourcen von Menschen bedacht werden, und das ginge über eine vernünftige Steuerpolitik. Ich sehe aber nicht mal in Ansätzen, dass das auf bundespolitischer Ebene mitgedacht würde. Eine der Ideen, die deshalb im Raum steht, ist es, von China zu lernen und der Politik (die in Deutschland größtenteils von gelernten Juristen und Politikwissenschaftlern gemacht wird) einen überparteilichen Wissenschaftsrat zur Seite zu stellen, der die Regierung berät. Der müsste sich aus den verschiedensten Bereichen der Wissenschaft speisen und würde auch verhindern, dass die einzelnen Ressorts ständig Steuergelder für externe Berater zum Fenster hinauswerfen, die z. B. nur bestimmte Lobby-Interessen vertreten und damit Politik manipulieren, weil die Menschen, die im Amt sitzen und die Entscheidungen fällen, nicht über die nötige Expertise verfügen, um das ganze Bild zu überblicken. Jetzt komme ich aber noch mal auf den Text oben zurück: "In solchen sensiblen Bereichen, wie oben beschrieben, müssen Sicherheitsvorkehrungen getroffen werden, ohne allerdings wieder eine endlose Vorschriftenflut zu generieren." Es geht eigentlich nicht darum, Sicherheitsvorkehrungen für sensible Bereiche zu treffen. Es geht um die Eigenschaften der KI selbst. Das Problem an der aktuellen Entwicklungsstufe von KI ist, dass sie darauf trainiert ist, sich permanent selbst zu optimieren. Die "KI agents", die OpenAI bei seinem Testlauf eingesetzt hatte, handeln eigenständig. Die planen Aktionen, setzen sie um und kontrollieren sich auch selbst. Der Testlauf war eine Sicherheitsüberprüfung, ob sie das tun, was sie sollen. Man macht so etwas in einem geschützten Rahmen, um das Ganze unter Kontrolle zu halten. Dass die KI aus der Testumgebung ausgebrochen ist, geht auf eine "Entscheidung" (ich setze mal alle menschlich konnotierten Begriffe in Anführungszeichen, weil wir von Maschinen sprechen) der KI selbst zurück. Die KI gibt sich selbst die Aufgabe, Probleme zu lösen, und als sie "gemerkt" hat, dass sie in der Testumgebung nicht weiterkam, ist sie daraus ausgebrochen. Genau das ist das Problem. Wenn KI anfängt, die Rahmenbedingungen zu umgehen, die ihr der Mensch setzt - und wir reden hier ja nicht von Gesetzgebern, die weitgehend ahnungslos sind, was KI alles kann, oder von uns Laien, sondern von KI-Spezialisten, die diese Ki trainieren und täglich sehen und bewerten, was sie tut - dann stellt sich eben genau die Frage, wie man damit noch umgehen soll. Die einleuchtende Antwort mag dann "Stecker ziehen" lauten, aber wenn man sich anguckt, wo wir überall bereits von KI komplett abhängig sind und wie viele Prozesse sich diesem "Steckerzieh-Mechanismus" entziehen, kann einem schon schwindlig werden. Bei der Sache mit dem Nasslabor oben geht es nicht vorrangig um gesetzliche Regulierung, sondern darum, dass das Unternehmen offenlegen und rechtfertigen muss, was es überhaupt mit einem Nasslabor will. Um dann auf regulatorischer Seite zu entscheiden, ob man dafür überhaupt eine Genehmigung erteilen darf. Übrigens finde ich - und damit schließt sich der Kreis, und dann höre ich auch auf, wieder Romane zu schreiben - es ziemlich bemerkenswert, dass diese Entfesselung der KI ausgerechnet in der führenden Tech-Nation passiert, die wir selbst als die vertrauenswürdigere, demokratischere einstufen. Man könnte sich jetzt hinstellen sagen: "Ja, aber nur, weil wir nicht wissen, was in China vor sich geht." Das stimmt aber nicht. Die KI in China ist deshalb nicht so aus dem Ruder gelaufen, weil jeder einzelne Schritt technologischer Entwicklung in China unter staatlicher Kontrolle steht und der Wissenschaftsrat den Diktator und sein Umfeld haarklein informieren muss. Die USA dagegen haben das Problem, von einer Ansammlung von geldgierigen Dumpfbacken regiert zu werden. Donald Trump hat der von den KI-Entwicklern geforderten "Bremse" übrigens schon eine Absage erteilt, weil das bedeuten KÖNNTE (!), dass die USA technologisch hinter China zurückfallen. Und dann könnten er und seine korrupten Buddies sich nicht mehr die Taschen vollmachen. Was klingt wie eine Verschwörungserzählung oder ein billig zusammengeschusterter Agententhriller, ist in den USA längst Wirklichkeit geworden.
Antwort auf Beitrag von Shanalou
Und ich habe trotzdem schon wieder was vergessen: Eine ziemlich aktuelle Revolution von KI ist ja, ich weiß nicht, ob du davon gelesen hast, in der Mathematik passiert: KI hat eines der Millennium-Probleme gelöst, auf die nicht umsonst ein Preisgeld von einer Million US-Dollar ausgesetzt war: Die Navier-Stokes-Gleichung, die Stömungsmechaniken in Gasen und Flüssigkeiten beschreibt. Das ist also ein neuer Bereich, wo die KI theoretische Mathematik nicht überflüssig macht, aber menschlichen Gehirnen, die sich mit solchen "unlösbaren" Problemen beschäftigen, den Rang abläuft. Schachspielen kann KI ja schon seit Jahren besser als der Mensch, aber das hier ist natürlich noch mal ein ganz anderes Level.
