KI trifft synthetische Biologie: Chance oder Risiko?
#Künstliche IntelligenzMenschen können Mikroorganismen verändern, um sie zu medizinischen oder Forschungszwecken zu nutzen – oder um biologische Kampfstoffe daraus zu machen. Der Einsatz von künstlicher Intelligenz beschleunigt den Fortschritt in diesem Forschungsgebiet. Wie steht es dabei um die Sicherheit? Das diskutierten Wissenschaftler:innen am 9. Juni 2025 bei der 28. Leopoldina Lecture in Hannover.
Mitschnitt der Veranstaltung vom 9. Juni 2026
"Die rasanten Fortschritte in der Künstlichen Intelligenz und der Synthetischen Biologie eröffnen faszinierende Chancen für die medizinische Forschung", sagte Leopoldina-Präsidentin Prof. Dr. Bettina Rockenbach in ihrer Begrüßung vor gut gefülltem Saal im Schloss Herrenhausen. "Es stellen sich aber auch kritische Fragen: Wird es bald einfacher, gefährliche Krankheitserreger zu designen?" Mit kurzen Impulsvorträgen legten die geladenen Wissenschaftler:innen die Grundlage für das anschließende Gespräch auf dem Podium und den Dialog mit dem Publikum.
In der synthetischen Biologie verändern Forschende Organismen für bestimmte Zwecke: Um sie als Werkzeug in der Forschung einzusetzen, als Impfstoff oder auch als Therapeutikum. Mithilfe der manipulierten Organismen können sie bakterielle Krankheitserreger bekämpfen oder erkrankte Körperzellen auf Ebene des Erbguts heilen, erklärte der Virologe Prof. Dr. Jens Bosse, Forschungsgruppenleiter am CSSB Centre for Structural Systems Biology in Hamburg. Er beschreibt, welche Rolle Künstliche Intelligenz (KI) in der synthetischen Biologie spielt: KI-basierte Computerprogramme sagen anhand einer Gensequenz, die die Bauanleitung für ein Protein enthält, die dreidimensionale Struktur des Proteins vorher. Ebenso ist es inzwischen möglich, aus einer imaginären Proteinstruktur die entsprechende Gensequenz herzuleiten. "Forschende können auf diesem Weg beispielsweise einen Hemmstoff für ein bestimmtes Enzym entwickeln, die Bindungsspezifität von Viren verändern oder Phagen auf bestimmte Bakterien ausrichten", sagte er. "Die Forschung auf dem Gebiet des Proteindesigns gewinnt gerade unglaublich an Fahrt."
Prof. Dr. Jens Bosse ist Forschungsgruppenleiter am CSSB Centre for Structural Systems Biology in Hamburg.
Durch die Anwendung von Large Language Modellen (LLMs) auf Genomsequenzen verstehe die Forschung zudem immer besser, wie das Erbgut von Organismen kodiert sei. "Forschende trainieren Modelle darauf zu verstehen, wie zum Beispiel ein Phagengenom funktioniert", sagte Bosse. "Die KI kann dann ein ganzes Genom entwerfen, das mit vergleichsweise hoher Wahrscheinlichkeit einen lebensfähigen Organismus kodiert."
Welche Rolle spielt der Mensch?
KI hilft also, große Datenmengen zu interpretieren und fördert das Verständnis von Gensequenzen. Basierend darauf kann sie sogar eigene Hypothesen aufstellen. "So kann die Forschung vorhandene Daten viel schneller verwenden, um neues Wissen zu generieren", sagte Bosse. "Im nächsten Schritt schreiben KI-Programme Arbeitsanweisungen für Laborroboter, die die Experimente durchführen." Noch kontrollierten Menschen diese Abläufe. Bosse sieht die Relevanz dieser Rolle jedoch innerhalb weniger Jahre schwinden. Auch darin, Wissen zu destillieren, werde die KI immer besser, meint er. "Welcher Mensch kann schon zehntausend Publikationen in einem Jahr lesen?" Entscheidend sei die kritische Bewertung der Ergebnisse. "Diese Aufgabe müssen wir uns bewahren." Wissenschaflter:innen seien jetzt gefragt, sich Gedanken darüber zu machen, wie sie die Ergebnisse KI-gestützter Forschung sinnvoll testen können.
Dr. Una Jakob: "Wer trägt letztlich die Verantwortung, wenn etwas schief läuft, wenn Schaden entsteht?"
Wer trägt die Verantwortung?
Dr. Una Jakob, Forschungsgruppenleiterin am PRIF — Leibniz-Institut für Friedens- und Konfliktforschung, mahnte die Verantwortlichkeiten zu klären: "Wer trägt letztlich die Verantwortung, wenn etwas schief läuft, wenn Schaden entsteht?" Das sei im Rahmen der Arbeit mit KI immer schwieriger zu erkennen und festzulegen, sagte Bosse.
Die gesellschaftliche Debatte um Sicherheit und Verantwortung in der synthetischen Biologie entspann sich maßgeblich an virologischen Arbeiten in den Niederlande und den USA im Jahr 2012. Forschende hatten ein Vogelgrippevirus so modifiziert, dass es durch die Luft übertragen werden konnte. "Die Sachlage wurde damals sehr schlecht kommuniziert", ordnete Sicherheitsexperte PD Dr. Jens Bohne ein. Bohne ist Forschungsgruppenleiter und Beauftragter für Biologische Sicherheit an der Medizinischen Hochschule Hannover. Er wies darauf hin, dass in der Debatte um das angeblich "gefährlichste Virus der Welt" wichtige Aspekte völlig vernachlässigt worden seien. "Das Virus war zwar durch die Luft übertragbar, die infizierten Tiere wurden aber weniger krank", erklärte er. Das Beispiel mache deutlich: "Wir wissen noch sehr wenig darüber, wie das Zusammenspiel verschiedener Faktoren letztlich die Pathogenität eines Erregers bestimmt."
Pauschale Regulierung nicht möglich
Forschende erzeugen Varianten von Krankheitserregern, um deren Überlebens- und Infektionsmechanismen zu erforschen. Mithilfe von KI könnten sie heute immer treffender vorhersagen, welche Veränderung beispielsweise die Übertragbarkeit eines Virus erhöht. Regulatorisch sei es möglich, eine potentiell gefährlichere Virusvariante unter sicheren Laborbedingungen herzustellen und zu untersuchen. "Die schwierige Frage ist aber: Soll man das machen?", sagte Bohne. Die Antwort auf diese Frage sei unmöglich in Gesetze zu gießen, meint er, Schutz vor Unfällen oder Missbrauch könne nicht ‘von oben’ verordnet werden. "Das würde die Forschung behindern."
"Wir wissen noch sehr wenig darüber, wie das Zusammenspiel verschiedener Faktoren letztlich die Pathogenität eines Erregers bestimmt", so PD Dr. Jens Bohne.
Der gemeinsame Ausschuss von DFG und Leopoldina zum Umgang mit sicherheitsrelevanter Forschung, dem Bohne und Jakob angehören, diskutiert, wie die Wissenschaft Sicherheit gewährleisten kann. "Wichtig ist, dem Nachwuchs schon in der Ausbildung ein Bewusstsein für potentielle Risiken von Forschung zu vermitteln", betonte Bohne. Denn nur die Forschenden selbst könnten einschätzen, ob ihre Arbeit sicherheitsrelevant sei, ergänzte Bosse. "Sie entscheiden gegebenenfalls: STOP. Bis hierhin und nicht weiter." Auch Jakob meint, genetische Manipulation von Organismen könne nicht pauschal verboten oder reguliert werden. "Die Forschung ist grundsätzlich legitim und wichtig. Es braucht von Fall zu Fall individuelle Entscheidungen, um das Nutzenpotential zu erhalten", sagte sie. "Und die Regulation darf nicht in Konflikt mit der Forschungsfreiheit geraten."
Schutz vor Missbrauch: EU-Regulierungsansatz
Natürlich können KI-Instrumente gefährlich sein, wenn sie in schlechter Absicht eingesetzt werden. Tödliche Toxine etwa könnten innerhalb kürzester Zeit so modifiziert werden, dass übliche Verfahren zur Detektion oder Therapien nicht mehr greifen. Friedens- und Konfliktforscherin Jakob beobachtet aber, dass die meisten Staaten der Weltgemeinschaft sich an die Konvention halten, die die Forschung an Biowaffen verbietet. "Menschen haben grundsätzlich eine Vorstellung davon, was gut und was schlecht ist", sagte sie. "Die meisten lehnen den Einsatz von Krankheitserregern als Kriegsinstrument instinktiv ab." Und rein rechtlich gelte die Biowaffenkonvention auch für neue Technologien: "KI und synthetische Biologie einzusetzen, um eine Biowaffe zu bauen, ist schlichtweg verboten. Daher plädiert Jakob für einen sachlichen Diskurs ohne Verharmlosung, aber auch ohne Alarmismus oder Katastrophenszenarien.
Bohne beschrieb den Regulierungsansatz der Europäischen Union. "Die Idee ist, Unternehmen zu regulieren, die Erbgutsequenzen herstellen oder entsprechende Geräte vertreiben: Sie dürften potentiell gefährliche Sequenzen oder missbräuchlich einsetzbare Geräte nach dem Prinzip 'know-your-customer' nur an vertrauenswürdige, legitimierte Einrichtungen abgeben."
Moderatorin Sonja Kastilan (Leiterin der Abteilung Wissenschaftskommunikation bei der Nationalen Akademie der Wissenschaften Leopoldina) diskutierte im Anschluss an ihre Vorträge mit Prof. Dr. Jens Bosse, Dr. Una Jakob und PD Dr. Jens Bohne (v.l.n.r.).
Spannungsfeld zwischen Schutz und Freiheit
KI-Anwendungen seien deutlich schwieriger zu regulieren, sagte Jakob, schon allein, weil die technische Entwicklung viel dynamischer sei als statische Gesetze erfassen könnten. Der Artificial Intelligence-Act der EU sei ein erster Schritt. Aber: "Es kann kein Gesetz geben, dass Risiken beim Einsatz von KI in der synthetischen Biologie umfassend ausschließt." Auf technischer Ebene bauten die Softwareentwickelnden Unternehmen Sicherheitsmaßnahmen ein. KI-Modelle könnten beispielsweise nicht ohne weiteres Bauanleitungen für Biowaffen ausgeben.
Bosse warnt jedoch, derartige Regulierungen der KI könnten zu Einschränkungen für Forschende führen. "Sobald ich Begriffe wie 'SarsCoV-2' oder 'Ebola' in das LLM Claude eingebe, verweigert es mir bestimmte Antworten", sagte er. "Unseren Kollegen in den USA haben Zugriff auf andere Modelle, sind deutlich schneller und haben dadurch Wettbewerbsvorteile." Gleichwohl könne jede Regulierung umgangen werden, etwa indem Forschende Open Source KI-Modelle nutzten. Auch Bosse hält die Regulierung auf Ebene materialliefernder Unternehmen deshalb für sinnvoll und zielführend.
"Wir müssen Unternehmen viel stärker in den Dialog über die Sicherheit der Entwicklungen einbinden", sagte Jakob. Den Dialog zwischen Wissenschaft und politischen Entscheidungstragenden sieht sie bereits auf einem guten Weg, wie auch Bohne: "Die gesetzlich vorgesehenen Sicherheitsmechanismen für Forschung in Deutschland sind gut und werden auch ausgenutzt", sagte er. "Die Politik merkt: Wissenschafter:innen kümmern sich um diese Fragen." Dass Technologien der KI und der Synthetischen Biologie weltweit eingesetzt werden, erschwere die Regulierung, sagt Jakob. Forschende können Geräte und Material aus der EU, China oder den USA beziehen. "Trotzdem sind die Diskussionen zum Thema wichtig und hilfreich, weil sie das Bewusstsein schärfen und Standards setzen."
Aus dem Publikum kam die Aufforderung an Wissenschaftler:innen, laufend und in der Breite über aktuelle Entwicklungen zu informieren. Zudem regte ein Zuhörer an, sich besser darauf vorzubereiten, wie Forschung und Gesellschaft mit einer Allgemeinen Künstlichen Intelligenz umgehen wolle, die womöglich schon in absehbarer Zeit den Menschen nicht mehr als maßgebende Entscheidungsinstanz anerkennen werde. Dem pflichtete Jens Bosse grundsätzlich bei, betonte jedoch, es sei wichtig, Menschen die Angst zu nehmen. "Nur wenn wir es positiv angehen, können wir Sicherheitsprobleme vermeiden."