KI-Fakes auf Demos: Staatsschutz beginnt mit Ermittelungen

[HWL News Bot]

Der aktuelle KI-Hype macht es so einfach wie noch nie, Texte, Bilder, Videos und Audiodateien zu erstellen und zu bearbeiten. Mit diesen eigentlich positiven Eigenschaften lässt sich aber auch viel Unheil anrichten. So ist als Begleiterscheinung des Hypes eine vermehrte Zunahme an Deepfakes – also echt wirkender, jedoch künstlich erstellter Medieninhalte – zu beobachten. Bereits zahlreiche prominente Persönlichkeiten wie Bundeskanzler Olaf Scholz, US-Präsident Joe Biden oder Papst Franziskus sind bereits in Medieninhalten aufgetaucht, die so nie real stattfanden. Dabei können einige dieser Deepfakes mittlerweile eine derart hohe Qualität vorweisen, dass sie kaum noch von der Realität zu unterschieden sind.
... weiterlesen

 

[Holt]

1984 ist durch KI wieder einen Schritt näher gerückt: Traue Deinen Augen und Ohren nicht!

 

[Bitmaschine]

KI könnte schon in verschiedenen Bereichen eine große Hilfe sein, wenn nicht kriminelle Energien das Potenzial für sich nutzt. Das Internet entwickelt sich immer mehr zu einer Plattform "nicht vertrauenswürdig". Dabei war der Grundgedanke für ein Netzwerk damals genial, um Daten und Informationen schnell auszutauschen. Das tolle ist, das Internet vergisst nichts und man kann alte Datenbestände abrufen. Jetzt braucht man weltweit einen Stab in allen Ländern, um Gefährlichkeit und Inhalt zu kontrollieren, zu löschen, Strafverfolgungen durchzuführen zu müssen. Ja, 1984 lässt grüßen.

 

[Holt]

KI könnte schon in verschiedenen Bereichen eine große Hilfe sein, wenn nicht kriminelle Energien das Potenzial für sich nutzt.

Wurde nicht jede Erfindung immer auch in einem Sinne verwendet, den der Erfinder nicht nur nicht im Sinn hatte, sondern dem er auch widerspricht? Schau Dir Dynamit an und warum es die Nobelpreise (wie auch immer man zu den jeweiligen Entscheidungen für die Preisvergabe steht) gibt.

Das Internet entwickelt sich immer mehr zu einer Plattform "nicht vertrauenswürdig".

Das ist sie schon lange., Wo habe ich gerade erst gelesen oder gehört, dass nun 85% der user auf X Bots sind? Aber solange die Betreiber ihre 8$ pro Account bezahlen, dürfte Elon das auch egal sein.

Jetzt braucht man weltweit einen Stab in allen Ländern, um Gefährlichkeit und Inhalt zu kontrollieren, zu löschen, Strafverfolgungen durchzuführen zu müssen. Ja, 1984 lässt grüßen.

Vergiss es, Milliarden Menschen plus unzählige Bots können da posten, so viele Leute kann kein demokratisches Land aufbieten, um diese zu überwachen und ggf. eine Strafverfolgung durchzuführen, wobei diese meist an den Landesgrenzen sowieso mehr oder weniger endet und die entsprechenden Akteure denen man vor allem Herr werden müsste, sowieso im Ausland sitzen und nicht selten von den Staaten wo sie sind unterstützt, wenn nicht beauftragt wurden. Da bleibt nur die Aufklärung der Bevölkerung zu verbessern und auf den Gesunden Menschenverstand zu hoffen, was mich leider nicht optimistisch stimmt.

 

[Gelöschtes Mitglied 189335]

Nachricht gelöscht

 

[Gurkengraeber]

Da wurde nichts verschlafen. Egal was man für Gesetze erlassen hätte, der Missbrauch hätte sich nicht anders entwickelt. Ähnlich dem Kampf gegen Drogen und anderen Dingen muss die kriminelle Energie nur hoch genug sein.

So ist die Menschheit. KI ist insofern ja auch nicht "neu". Nur die technischen Möglichkeiten haben sich drastisch erweitert. Es gilt nun damit umzugehen und insbesondere die vorschnelle Verurteilung oder Meinungsbildung auf den Prüfstand zu stellen. Gerade die extremen Lager in jede Richtung (rechts, links, grün usw) werden sich über solche Fehlinformationen weiter radikalisieren.

 

[Bitmaschine]

Wurde nicht jede Erfindung immer auch in einem Sinne verwendet, den der Erfinder nicht nur nicht im Sinn hatte, sondern dem er auch widerspricht? Schau Dir Dynamit an und warum es die Nobelpreise (wie auch immer man zu den jeweiligen Entscheidungen für die Preisvergabe steht) gibt.

Z.B. Kernspaltung als Grundlagenforschung.

Das ist sie schon lange., Wo habe ich gerade erst gelesen oder gehört, dass nun 85% der user auf X Bots sind? Aber solange die Betreiber ihre 8$ pro Account bezahlen, dürfte Elon das auch egal sein.

Ja, wenn das Geld regiert, hört der Verstand auf ...

Vergiss es, Milliarden Menschen plus unzählige Bots können da posten, so viele Leute kann kein demokratisches Land aufbieten, um diese zu überwachen und ggf. eine Strafverfolgung durchzuführen, wobei diese meist an den Landesgrenzen sowieso mehr oder weniger endet und die entsprechenden Akteure denen man vor allem Herr werden müsste, sowieso im Ausland sitzen und nicht selten von den Staaten wo sie sind unterstützt, wenn nicht beauftragt wurden. Da bleibt nur die Aufklärung der Bevölkerung zu verbessern und auf den Gesunden Menschenverstand zu hoffen, was mich leider nicht optimistisch stimmt.

"Leider müssen wir ihren Planeten und das Planetensystem wegen einer galaktischen Autobahn in die Luft sprengen", "Drecksplanet. Liegt die Genehmigung vor? Sehr gut, beginnt die Prozedur" 🤪

 

[Holt]

Z.B. Kernspaltung als Grundlagenforschung.

Ja Kernenergie ist ein gutes Beispiel, von Atomwaffen mal ganz abgesehen, waren die Kernkraftwerke am Anfang toll, weil sie billigen Strom geliefert haben. Aber sie haben eben auch haufenweise Atommüll produziert, für den wir bis heute keine Lösung haben und wo die Kosten für eine sichere Entlagerung auch gar nicht absehbar und damit im Prinzip unendlich sind, aber nun von der Allgemeinheit getragen werden müssen, weil die Betreiber sowieso nie (ganz davon abgesehen das sie die Gewinne als Dividenden ausgeteilt haben) so viel Geld verdient haben dürften, um Kosten zu tragen die über Jahrtausende anfallen werden. Nicht alles was möglich ist, sollte auch gemacht werden und nicht alles was auf den ersten Blick gut aussieht, ist auch auf Dauer immer noch gut. Das Internet scheint leider auf Dauer immer in diese Richtung abzudriften.

 

[tonythebuilder]

1984 ist durch KI wieder einen Schritt näher gerückt: Traue Deinen Augen und Ohren nicht!

Ahm.... du hast 1984 gelesen oder eventuell den Film gesehen?
Viele reden zwar über 1984, haben es aber nie gelesen oder gesehen. Und kennen es nur vom hören sagen, bzw. haben mal eben schnell die Zusammenfassung auf Wikipedia gelesen.

Denn die Realität ist in einigen Punkten schon deutlich weiter als was das in 1984 beschrieben wurde. Intressanterweise finden das Leute oft sogar ziemlich gut und machen sogar freiwillig mit. Oder nehmen es einfach hin.

Und ganz ehrlich Fälschung in oder von Media (Foto, Film, Audio) sind jetzt kein neues Phänomen. Einige sehr bekannte Fotos, Filme, Audioaufnahmen. Sind Angepasst, oder auf andere Art und Weise nachgeholfen worden. Was sie technisch zu Fälschungen macht. Die Scripte, die wir KI/AI nennen, heben das nur auf ein neues Niveau. Weil schneller zu erstellen und noch schwieriger zu erkennen. Was ohne Zweifel, höchst problematisch ist.

Andererseits wollten wir diese Technologie, weil sie unser Leben so viel einfacher macht. Oder wollten wir das glauben oder wurde es und glauben gemacht? Auf jeden Fall wissen wir seit dem Aufkommen der ganzen soziallen Netzwerke wie gut und schön unser Leben geworden ist. Oder etwa nicht?

 

[King Loui]

Aber sie haben eben auch haufenweise Atommüll produziert, für den wir bis heute keine Lösung haben und wo die Kosten für eine sichere Entlagerung auch gar nicht absehbar und damit im Prinzip unendlich sind, aber nun von der Allgemeinheit getragen werden müssen, weil die Betreiber sowieso nie (ganz davon abgesehen das sie die Gewinne als Dividenden ausgeteilt haben) so viel Geld verdient haben dürften, um Kosten zu tragen die über Jahrtausende anfallen werden.

Absolut, man siehe sich nur EDF als mahnendes Beispiel an. Der Konzern hat bereits horrende Schulden akkumuliert, welche in den kommenden Jahren nochmals explosionsartig steigen dürften. Allein an Instandhaltungskosten für die in Betrieb befindlichen Kernreaktoren sollen in den nächsten zehn Jahren 100 Mrd. Euro dazu kommen. Und auch hier kommt ein altbekanntes Muster zum Vorschein: Die Schuldenlast wird der Allgemeinheit aufgebürdet. Wenn diese Prognosen zudem zutreffend sind, drohen Frankreich nochmals andere Zustände als brennende Barrikaden von wütenden Bauern.

 

[Ycon]

Es gibt ja die Redewendung, dass man nicht stehlen soll weil die Regierung keine Konkurrenz mag.
Kann man hier gut adaptieren: Keine Fakes, weil die Massenmedien keine Konkurrenz wollen. Gerade das Beispiel der Tagesschau ist natürlich besonders köstlich