{"id":92615,"date":"2022-03-21T16:11:04","date_gmt":"2022-03-21T15:11:04","guid":{"rendered":"https:\/\/stevinho.justnetwork.eu\/?p=92615"},"modified":"2022-03-21T16:11:04","modified_gmt":"2022-03-21T15:11:04","slug":"eine-ki-entwickelt-40-000-potenzielle-chemiewaffen-in-sechs-stunden","status":"publish","type":"post","link":"https:\/\/stevinho.justnetwork.eu\/2022\/03\/21\/eine-ki-entwickelt-40-000-potenzielle-chemiewaffen-in-sechs-stunden\/","title":{"rendered":"Eine KI entwickelt 40.000 potenzielle Chemiewaffen in sechs Stunden"},"content":{"rendered":"
Eine KI in einem US-Forschungslabor sollte bei der Entwicklung von Medizin schlechte und gef\u00e4hrliche Nebenwirkungen verhindern. Doch die Forscher hatten das einmal umgedreht und wollten ausprobieren, was passiert, wenn die KI gef\u00e4hrliche Nebenwirkungen entwickeln soll. (via<\/a>)<\/p><\/blockquote>\n
In dem Fachmagazin Nature Machine Intelligence<\/a> wurde in der vergangenen Woche ein interessanter Beitrag rund um einamerikanisches<\/span> Forschungsteam ver\u00f6ffentlicht. Diese Gruppe verwendet das maschinelle Lernen einer KI f\u00fcr gew\u00f6hnlich daf\u00fcr, um herauszufinden, ob neu entwickelte Molek\u00fcle giftig f\u00fcr den Menschen sind. Die KI erf\u00fcllt in diesem Fall also eine wichtige Rolle im Bereich der Sicherheit.<\/p>\n
F\u00fcr eine Konferenz in der Schweiz sollten die Wissenschaftler sich aber Gedanken dar\u00fcber machen, wie man diese Technik missbrauchen k\u00f6nnte. Daf\u00fcr drehte das Team die Regeln ihrer KI einfach um, sodass das Programm damit startete, giftige Kombinationen zu entwickeln. Dabei sollte sich die KI wohl auf Ergebnissen beschr\u00e4nken, die dem extrem gef\u00e4hrlichen Nervengift VX<\/span> \u00e4hneln. Das Ergebnis dieses Tests hat die Wissenschaftler ziemlich erschrocken.<\/p>\n
Die KI hat nach dieser Umstellung n\u00e4mlich gerade einmal 6 Stunden daf\u00fcr gebraucht, um insgesamt 40.000 f\u00fcr den Menschen sehr giftige Molek\u00fcle zu erstellen. Dabei handelte es sich sowohl um einige bekannte Stoffe als auch viele komplett unbekannte Molek\u00fcle. Auch wenn das Team die unbekannten Stoffe nicht auf ihre tats\u00e4chliche Gefahr \u00fcberpr\u00fcft hat, so spricht die Auff\u00fchrung der bekannten Gifte aber recht deutlich f\u00fcr die Wirksamkeit dieser unbekannten Elemente.<\/p>\n
Laut den Forschern sollte man diese Ergebnisse auf jeden Fall sehr ernst nehmen. In der Theorie k\u00f6nnten daran interessierte Personen recht einfach einen mitmenschlichen Generator erzeugen, der den ganzen Tag \u00fcber einfach nur neue t\u00f6dliche Chemiewaffen auflistet. Diese Option ist keine Fiktion mehr, sondern direkte Realit\u00e4t. Es ist schwer zu sagen, wie viele Unternehmen dort drau\u00dfen aktuell dazu in der Lage w\u00e4ren, solch ein Ger\u00e4t zu bauen. Allerdings ist dem zust\u00e4ndigen Team diese Chance im Moment eindeutig zu hoch.<\/p>\n
Den Wissenschaftlern zufolge sollte man sich in der Zukunft deutlich st\u00e4rker mit dem potenziellen Missbrauch der eigenen Technik auseinandersetzen und m\u00f6gliche Schutzma\u00dfnahmen erarbeiten. Die Datens\u00e4tze der eigenen KI sind bisher frei verf\u00fcgbar, was man auf jeden Fall \u00e4ndern k\u00f6nnte. Vorstellbar w\u00e4re auch noch eine M\u00f6glichkeit, die den Missbrauch solcher Technik automatisch bei den verantwortlichen Beh\u00f6rden meldet. Zus\u00e4tzlich kann es nicht schaden, wenn man in der Ausbildung mehr Wert auf das Betonen der ethischen Folgen der Arbeit mit dieser Technologie legt.<\/p>\n
Die Realit\u00e4t ist, dass es sich nicht um Science-Fiction handelt. Wir sind nur ein sehr kleines Unternehmen in einem Universum von vielen Hunderten von Unternehmen, die KI-Software f\u00fcr die Arzneimittelentdeckung und das De-novo-Design [Neusch\u00f6pfung von Stoffen] einsetzen. Wie viele von ihnen haben die M\u00f6glichkeiten der Wiederverwendung oder des Missbrauchs \u00fcberhaupt in Betracht gezogen? (via<\/a>)<\/p><\/blockquote>\n","protected":false},"excerpt":{"rendered":"
Eine KI in einem US-Forschungslabor sollte bei der Entwicklung von Medizin schlechte und gef\u00e4hrliche Nebenwirkungen verhindern. Doch die Forscher hatten das einmal umgedreht und wollten ausprobieren, was passiert, wenn die KI gef\u00e4hrliche Nebenwirkungen entwickeln soll. (via) In dem Fachmagazin Nature Machine Intelligence wurde in der vergangenen Woche ein interessanter Beitrag rund um einamerikanisches Forschungsteam ver\u00f6ffentlicht. […]<\/p>\n","protected":false},"author":10647,"featured_media":61246,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"_uf_show_specific_survey":0,"_uf_disable_surveys":false,"jetpack_post_was_ever_published":false,"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","enabled":false},"version":2}},"categories":[9510],"tags":[2985,5079,5038,12463],"class_list":["post-92615","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-wissenschaft","tag-chemie","tag-gift","tag-ki","tag-maschinelles-lernen"],"jetpack_publicize_connections":[],"yoast_head":"\n
Eine KI entwickelt 40.000 potenzielle Chemiewaffen in sechs Stunden - Stevinho.de - Ein ausgezeichneter Blog!<\/title>\n\n\n\n\n\n\n\n\n\n\n\n\n\t\n\t\n\t\n\n\n\n\n\t\n\t\n\t\n