Am vergangenen Freitag kündigte das Unternehmen OpenAI eine neue AI-Software zum Klonen von menschlichen Stimmen an, die sich wohl bereits seit 2022 in Entwicklung befindet. Angeblich benötigt dieses Werkzeug nur eine 15 Sekunden lang laufende Audioprobe einer menschlichen Stimme. Damit kann die AI dann wohl eine natürlich klingende Sprache mit einer überraschend starken Ähnlichkeit zum Originalsprecher erzeugen.
OpenAI is committed to developing safe and broadly beneficial AI. Today we are sharing preliminary insights and results from a small-scale preview of a model called Voice Engine, which uses text input and a single 15-second audio sample to generate natural-sounding speech that closely resembles the original speaker. It is notable that a small model with a single 15-second sample can create emotive and realistic voices. (via)
Interessanterweise ist diese Ankündigung von OpenAI aber kein Hinweis auf eine baldige Veröffentlichung dieses AI-Tools, sondern sie stellt eine Warnung vor dieser Neuerung dar. Die Firma hat sich wohl dazu entschieden, dieses Tool vorerst nicht zu veröffentlichen. Man macht sich angeblich zu große Sorgen um einen möglichen Missbrauch dieser Technologie, der schnell auf Betrug und/oder Manipulation von Menschen hinauslaufen könnte. Ob und wann die Firma diese Technologie auf den Markt bringen wird, steht aktuell noch komplett offen.
At the same time, we are taking a cautious and informed approach to a broader release due to the potential for synthetic voice misuse. We hope to start a dialogue on the responsible deployment of synthetic voices, and how society can adapt to these new capabilities. Based on these conversations and the results of these small scale tests, we will make a more informed decision about whether and how to deploy this technology at scale. (via)
OpenAI hofft jetzt auf ernste Diskussionen über das Potenzial und die Risiken solcher Neuerungen. Man will weitere Tests durchführen und an der Ausarbeitung der AI arbeiten. Gleichzeitig wirbt die Firma aber wohl für eine Pflicht zum direkten Kennzeichnen von automatisch erstellten AI-Stimmen. Auf diese Weise kann man die Technik für positive Dinge (Übersetzungen, Vorlesen etc.) verwenden und trotzdem Betrügereien etwas einschränken. Dafür müssen aber wohl Regierungen erst einmal eingreifen und die entsprechenden Richtlinien erlassen.
Anzeige
