Am vergangenen Freitag k\u00fcndigte<\/a> das Unternehmen OpenAI eine neue AI-Software zum Klonen von menschlichen Stimmen an, die sich wohl bereits seit 2022 in Entwicklung befindet. Angeblich ben\u00f6tigt dieses Werkzeug nur eine 15 Sekunden lang laufende Audioprobe einer menschlichen Stimme. Damit kann die AI dann wohl eine nat\u00fcrlich klingende Sprache mit einer \u00fcberraschend starken \u00c4hnlichkeit zum Originalsprecher erzeugen.<\/p>\n

OpenAI is committed to developing safe and broadly beneficial AI<\/a>. Today we are sharing preliminary insights and results from a small-scale preview of a model called Voice Engine, which uses text input and a single 15-second audio sample to generate natural-sounding speech that closely resembles the original speaker. It is notable that a small model with a single 15-second sample can create emotive and realistic voices. (via<\/a>)<\/p><\/blockquote>\n

Interessanterweise ist diese Ank\u00fcndigung von OpenAI aber kein Hinweis auf eine baldige Ver\u00f6ffentlichung dieses AI-Tools, sondern sie stellt eine Warnung vor dieser Neuerung dar. Die Firma hat sich wohl dazu entschieden, dieses Tool vorerst nicht zu ver\u00f6ffentlichen. Man macht sich angeblich zu gro\u00dfe Sorgen um einen m\u00f6glichen Missbrauch dieser Technologie, der schnell auf Betrug und\/oder Manipulation von Menschen hinauslaufen k\u00f6nnte. Ob und wann die Firma diese Technologie auf den Markt bringen wird, steht aktuell noch komplett offen.<\/p>\n

At the same time, we are taking a cautious and informed approach to a broader release due to the potential for synthetic voice misuse. We hope to start a dialogue on the responsible deployment of synthetic voices, and how society can adapt to these new capabilities. Based on these conversations and the results of these small scale tests, we will make a more informed decision about whether and how to deploy this technology at scale. (via<\/a>)<\/p><\/blockquote>\n

OpenAI hofft jetzt auf ernste Diskussionen \u00fcber das Potenzial und die Risiken solcher Neuerungen. Man will weitere Tests durchf\u00fchren und an der Ausarbeitung der AI arbeiten. Gleichzeitig wirbt die Firma aber wohl f\u00fcr eine Pflicht zum direkten Kennzeichnen von automatisch erstellten AI-Stimmen. Auf diese Weise kann man die Technik f\u00fcr positive Dinge (\u00dcbersetzungen, Vorlesen etc.) verwenden und trotzdem Betr\u00fcgereien etwas einschr\u00e4nken. Daf\u00fcr m\u00fcssen aber wohl Regierungen erst einmal eingreifen und die entsprechenden Richtlinien erlassen.<\/p>\n","protected":false},"excerpt":{"rendered":"

Am vergangenen Freitag k\u00fcndigte das Unternehmen OpenAI eine neue AI-Software zum Klonen von menschlichen Stimmen an, die sich wohl bereits seit 2022 in Entwicklung befindet. Angeblich ben\u00f6tigt dieses Werkzeug nur eine 15 Sekunden lang laufende Audioprobe einer menschlichen Stimme. Damit kann die AI dann wohl eine nat\u00fcrlich klingende Sprache mit einer \u00fcberraschend starken \u00c4hnlichkeit zum […]<\/p>\n","protected":false},"author":10647,"featured_media":103501,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"_uf_show_specific_survey":0,"_uf_disable_surveys":false,"jetpack_post_was_ever_published":false,"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","enabled":false},"version":2}},"categories":[7,9510],"tags":[5604,1151,11704,13777,5126],"class_list":["post-105464","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-internet","category-wissenschaft","tag-ai","tag-betrug","tag-klonen","tag-openai","tag-stimme"],"jetpack_publicize_connections":[],"yoast_head":"\n