Künstliche Intelligenz: Russische Hacker versuchen ChatGPT-Beschränkungen auszuhebeln

[HWL News Bot]

Der Hype rund um ChatGPT ist weiterhin ungebrochen. Viele sogenannte Experten halten die künstliche Intelligenz für das "Next Big Thing". Andere wiederum sehen nur einen rudimentären Chatbot. Ob sich ChatGPT tatsächlich durchsetzen und das Ende der Google-Suchmaschine einleiten wird, bleibt allerdings zunächst abzuwarten. Fakt ist jedoch, dass Kriminelle immer wieder versuchen, die OpenAI für illegale Machenschaften zu missbrauchen.
... weiterlesen

 

[DragonTear]

Am Ende stellt ChatGPT in gewisser weise eben eine riesige, wenig gefilterte Wissensdatenbank dar. Ein wenig wie das Internet selbst, auf dessen "Wissen" es ja basiert. Nur ist das alles nochmals eine gute Stufe zugänglicher plus die Fähigkeit es auf, vom Nutzer beschriebene Situationen anzuwenden.
Das kann man natürlich missbrauchen.
Ist eben der Preis den wir für unsere freie Gesellschaft zahlen.

Um phishing per email grundsätzlich zu beenden müsste sich endlich mal sowas wie DE-Mail weit durchsetzen (also nicht-anonyme mails mit Absender-Zertifizierung).
Alternativ wird halt garnichts wichtiges per Email direkt ausgetauscht. Die allermeisten Banken und co. machen das bereits seit ewigkeiten ja nicht.
Was Malware angeht sollte man zumindest hoffen dass alle Lücken über die ChatGPT bescheid weis, schon gefixt sind.

 

[unleashed4790]

Es ist bereits jetzt deutlich mehr als die bloße Bereitstellung von Wissen. Hier wird nicht funktionierender Code innerhalb von Sekunden (natürlich abhängig von der Größe) in funktionierenden umgewandet, es werden weitestgehend fehlerfreie Texte, die auch ein Mensch geschrieben haben könnte, geschrieben. Hier stecken viele Potentiale aber auch Gefahren drinne.
Gut geschriebene Phishingmails sind da mMn noch eines der geringeren Übel, die auf uns zukommen könnnten in naher Zukunft

 

[passat3233]

Forscher haben ChatGPT mal ausbrobiert, um eine Seite zu hacken.
ChatGPT hat ihnen eine StepbyStep-Anleitung geliefert und nach nur 30 Minuten waren die am Ziel!
So wird es jedem ScriptKid sehr leicht gemacht, so etwas zu machen.

 

[Richard88]

Forscher haben ChatGPT mal ausbrobiert, um eine Seite zu hacken.
ChatGPT hat ihnen eine StepbyStep-Anleitung geliefert und nach nur 30 Minuten waren die am Ziel!
So wird es jedem ScriptKid sehr leicht gemacht, so etwas zu machen.

Dann wird endlich mal etwas in punkto sicherheit getan. Ich habe die erfahrung gemacht, dass IT-sicherheit teilweise sträflich missachtet wird, geradezu vorsätzlich. Und wenn etwas passiert, dann wird gejammert dass selbst die klagemauer zerbröselt. Natürlich sind die anderen schuld, der nichtsahnende mitarbeiter, die bösen bösen hacker. Wer niemals schuld ist, ist das managment.

 

[Rudi Ratlos]

Wie jetzt bekannt geworden ist, arbeiten russische Hacker daran, die Zugriffsbeschränkungen von ChatGPT auszuhebeln. In diversen Untergrundforen finden sich Threads, in denen verschiedene Methoden diskutiert werden. Aus Russland stammende Nutzer haben im Normalfall keinen Zugriff auf die künstliche Intelligenz. Mithilfe von Geofencing beabsichtigen die Betreiber, unerwünschte Besucher fernzuhalten.

Damit ich das richtig verstehe: Nutzern aus Russland wird der Zugriff im Gegensatz zu allen anderen Ländern verwehrt. Aus welchen "Gründen" auch immer. Und dann "wundert" man sich, daß die nicht gerade ungeschickten russischen Programmierer versuchen, diese Beschränkungen zu umgehen?

Ist das noch Naivität oder schon Dummheit?

 

[DragonTear]

Damit ich das richtig verstehe: Nutzern aus Russland wird der Zugriff im Gegensatz zu allen anderen Ländern verwehrt. Aus welchen "Gründen" auch immer.

Auch China, NK und ein paar wenige andere von denen man halt ausgeht dass die Gefahr des Misbrauchs besonders gross ist aufgrund der dort vorherrschenden Staatsstrukturen.

 

[Bitmaschine]

Mhh, vielleicht sagt dann die KI, dass es nix bringt, die KI zu hacken, weil die KI nicht intelligent genug ist, sich umzuprogrammieren und zu intelligent ist, um zu erkennen, dass "Alkohol, macht die Birne hohl" und "ich schlage mein Bruder- und Schwestervolk fast tot, dass wir hinterher geliebt werden" keine Option ist. Mit wehenden Fahnen in den Schwachsinn .... wie wäre es, wenn man die Datenkabel kappen würde, da kommt die KI auch nicht weiter?

 

[Rudi Ratlos]

Auch China, NK und ein paar wenige andere von denen man halt ausgeht dass die Gefahr des Misbrauchs besonders gross ist aufgrund der dort vorherrschenden Staatsstrukturen.

Also auf Ebay Kleinanzeigen sind (das weiß ich aus eigener Erfahrung!) vor allem Betrügerbanden mit einem ukrainischen Hintergrund unterwegs. Die nutzen eine Regelung von Paypal aus, daß der Zahlungsdienstleister bei Accounts aus diesem Land den Käuferschutz einfach deaktiviert. Dann kapern sie alte deutsche Accounts mit guter Bewertung, bieten Waren an und streichen das Geld ein - auf Nimmerwiedersehen. Mit etwas Pech hat man noch nicht mal gemerkt, daß man ohne Käuferschutz gezahlt hat.

Nur mal so.... Einzelnen Nationen per se Betrügereien zu unterstellen, ist übrigens rassistisch....
Und gerade im Fall der Russen ist vieles auch reine Propaganda des Westens. Ich erinnere mich da an einen Fall, daß angebliche "russische Hacker" aufgeflogen seien, weil im Programmcode eine yandex.com-Adresse versteckt war. Eine solche Adresse bekommt ein normaler Russe gar nicht zugeteilt. Die bekommt man als Nichtrusse auf der englissprachigen Yandex-Seite. Diese "Russen" konnten wohl kein Russisch? Und umgekehrt war es bei Wannacry vor allem das (inzwischen böse!!) russische Unternehmen Kaspersky, die früh die Gefahr analysierten und warnten. Da war es aber schon zu spät. Der Schadcode wurde damals übrigens mit einem Tool eingeschleust, das die NSA entwickelt hatte...

 

[Grestorn]

Also auf Ebay Kleinanzeigen sind (das weiß ich aus eigener Erfahrung!) vor allem Betrügerbanden mit einem ukrainischen Hintergrund unterwegs. Die nutzen eine Regelung von Paypal aus, daß der Zahlungsdienstleister bei Accounts aus diesem Land den Käuferschutz einfach deaktiviert. Dann kapern sie alte deutsche Accounts mit guter Bewertung, bieten Waren an und streichen das Geld ein - auf Nimmerwiedersehen. Mit etwas Pech hat man noch nicht mal gemerkt, daß man ohne Käuferschutz gezahlt hat.

Nur mal so.... Einzelnen Nationen per se Betrügereien zu unterstellen, ist übrigens rassistisch....

Diese beiden Absätze unmittelbar untereinander sind echt bemerkenswert. Liest Du eigentlich selbst, was Du schreibst?

Diese ewige Propaganda von Dir nervt echt. Und Deine Signatur spricht Bände.

 

[Rudi Ratlos]

Diese "Propaganda" habe ich selber erlebt! Ich bin selbst bei Ebay-Kleinanzeigen auf solch einen Betr@ger hereingefallen. Der entscheidende Tip mit dem ukrainischen Account von Paypal kam übrigens von einer Servicemitarbeiterin.

Und nein, damit habe ich eben NICHT "den Ukrainern" unterstellt, "alle Betr@ger zu sein". Lesen kannst du hoffentlich noch? Mir ging es ja eben genau darum festzustellen, daß es unredlich ist, nach Nationalitäten zu sortieren, so wie aktuell "Russe = böse, Ukrainer = gut". Und ob die Betrü@er wirklich Ukrainer sind, ist mit der Nummer ja auch nicht gesagt. Aber die Nummer funktioniert eben wegen einer Sonderstellung ukrainischer Paypal-Accounts. Zu welchem Zweck die eingeführt wurde, mußt du Paypal fragen.

Jetzt verstanden? Oder willst du auf Teufel komm raus mißverstehen?

 

[Grestorn]

Du generalisierst erst mal selbst und beschwerst Dich im nächsten Satz übers Generalisieren. Und merkst es noch nicht mal.

Es gibt politische Gründe, die westliche Staaten dazu bringen, bestimmte Techniken anderen Ländern vorzuenthalten. Das ist nicht nur ChatGPT, das sind auch Chips, Technologien, Know How, usw.

Es ist Dir unbenommen das schlecht zu finden. Du kannst auch gerne die betroffenen Staaten als unschuldige Opfer hinstellen. Nur mach das dann bitte offen und nicht unter dem Deckmäntelchen des Whataboutism. Das ist subversiv und ziemlich agitatorisch.

 

[Nelen]

Letzten Beitrag entfernt.
Bitte versuchen auf einem freundlichen Niveau zu schreiben und auf Polemik verzichten. Ist schwierig, ich weiß.
Vllt. mal an die kühlende Winterluft treten und dann weiter. Danke.

 

[paulemannsen]

Die Wahrheit ist tot in Deutschland. Was mich am meisten erschreckt und was ich vor 5 Jahren nicht für möglich gehalten hätte, ist zu sehen, wie viele mitmachen. Absolut erschreckend. Na wenigstens weiss ich jetzt wie das vor 80 Jahren passieren konnte.

 

[Grestorn]

Die Wahrheit ist tot in Deutschland. Was mich am meisten erschreckt und was ich vor 5 Jahren nicht für möglich gehalten hätte, ist zu sehen, wie viele mitmachen. Absolut erschreckend. Na wenigstens weiss ich jetzt wie das vor 80 Jahren passieren konnte.

Ach, nun sind alle, die nicht an Verschwörungstheorien glauben und der russischen Propaganda nicht auf den Leim gehen quasi schon Nazis? Genau wie die Regierung in Kiew? Ich verstehe. Alles klar.

 

[Nelen]

Die Wahrheit ist tot in Deutschland. Was mich am meisten erschreckt und was ich vor 5 Jahren nicht für möglich gehalten hätte, ist zu sehen, wie viele mitmachen. Absolut erschreckend. Na wenigstens weiss ich jetzt wie das vor 80 Jahren passieren konnte.

Wenn dem so wäre, könntest Du so etwas nicht laut und ungestraft rausposaunen. Und nur weil Du verbal Gegenwind bekommst und Leute Dir sagen, warum und dass diese Aussage nicht stimmt ist keine Einschränkung Deiner Meinungsfreiheit.

 

[Ickewars]

Na wenigstens weiss ich jetzt wie das vor 80 Jahren passieren konnte.

Ich weiss jetzt, wie viel Du nicht weisst

 

[Neo111430]

Was ich komisch finde das eigentlich HWLUXX einerseits überall versucht Politische Themen zu unterbinden andererseits werden hier solche Klickbait Themen veröffentlicht. Schon die Überschrift suggeriert das die Bösen Russen. Wobei Herr Skrobisch uns jegliche Quelle oder Beweis schuldig bleibt.

"Wie jetzt bekannt geworden ist, arbeiten russische Hacker daran, die Zugriffsbeschränkungen von ChatGPT auszuhebeln. "

Für mich persönlich stellt sich zu erst die Frage ist woher stammen die Informationen vor ich auf jemanden mit Finger zeige. Sind die echt? Oder ist es nur Propaganda egal von welcher Seite auch immer. Ich wette das alle Gruppen weltweit machen das selbe. Ich behaupte nich das die Russen still sitzen, aber durch die Überschrift wird es so dargestellt das nur die Russen Hacker haben. Das es hier früher oder später eskaliert ist klar. Ist ja nicht der erste Thread was deswegen geschlossen wird. Leider sieht man es immer öfters wie Unruhe und Haß geschürt wird und egal ist ob durch TV ,Zeitschriften, Sozialen Medien oder auch mit solchen unvollständigen Beiträgen im Foruen.

 

[Grestorn]

Es wäre sehr überraschend, wenn die Länder, die dem Westen unfreundlich gegenüber stehen und von deren Sanktionen betroffen sind, das NICHT machen würden.

Auf der Brennsuppn daherg'schwommen sind die ja auch nicht.

Mich überrascht eher die Zahl der Apologeten und Putinfreunde hier in den Foren.

 

[pillenkoenig]

Es wäre sehr überraschend wenn nicht jedes Land, welches den Entwickler nicht einfach zwingen kann, das machen würde.

 

[n3cron]

Am Ende stellt ChatGPT in gewisser weise eben eine riesige, wenig gefilterte Wissensdatenbank dar. Ein wenig wie das Internet selbst, auf dessen "Wissen" es ja basiert. Nur ist das alles nochmals eine gute Stufe zugänglicher plus die Fähigkeit es auf, vom Nutzer beschriebene Situationen anzuwenden.
Das kann man natürlich missbrauchen.
Ist eben der Preis den wir für unsere freie Gesellschaft zahlen.

Um phishing per email grundsätzlich zu beenden müsste sich endlich mal sowas wie DE-Mail weit durchsetzen (also nicht-anonyme mails mit Absender-Zertifizierung).
Alternativ wird halt garnichts wichtiges per Email direkt ausgetauscht. Die allermeisten Banken und co. machen das bereits seit ewigkeiten ja nicht.
Was Malware angeht sollte man zumindest hoffen dass alle Lücken über die ChatGPT bescheid weis, schon gefixt sind.

Für wie besiege ich NATO oder so reichts leider nicht ;-)

 

[Nelen]

Wobei Herr Skrobisch uns jegliche Quelle oder Beweis schuldig bleibt.

Die Quelle findest Du am Ende vom Beitrag hinter diesem Button:

Und hier nochmal für Dich, direkt von hier:

Hacker versuchen ChatGPT-Beschränkungen von OpenAI zu umgehen | ZDNet.de

Check Point Research (CPR) beobachtet Versuche russischer Hacker, ChatGPT für bösartige Zwecke zu nutzen.

www.zdnet.de

Des Weiteren:

Es wäre sehr überraschend wenn nicht jedes Land, welches den Entwickler nicht einfach zwingen kann, das machen würde.

+1

 

[Rudi Ratlos]

Könnte sich bitte mal der Mod zu erkennen geben, der meine Beitragsmeldungen abgelehnt hat? Eine Frage zu stellen, ohne sich namentlich zu erkennen zu geben, ist unfair.

 

[Gouvernator]

Ich habe gerade eine tiefgründige esoterische Diskussion mit ChatGPT geführt. Einfach nur WTF! Man kann der AI ganze Textpassagen in Deutsch(!) zuführen während man mit dem auf English spricht. Und das Ding verliert dabei nie den Faden was die ursprüngliche Frage war. Ich war zwei Stunden dran die AI zu überzeugen das Luzifer und Jesus gleiche Person sein könnte... Vom Eindruck her ist es beinah wie der "Computer" aus Strar Trek.

 

[0 8 15 User]

Ich war zwei Stunden dran die AI zu überzeugen das Luzifer und Jesus gleiche Person sein könnte..

Ich hab schon lange nicht mehr alleine vor dem PC sitzend laut gelacht, aber heute war es mal wieder so weit.

 

[Ickewars]

Als ich es heute früh gelesen hatte, ging es mir ähnlich 🤣
Wobei ich sehr gerne dem Iglubewohner dabei zugeschaut hätte 🤔

 

[Gouvernator]

Wie gesagt wenn man ein gewisses Niveau auf einem Gebiet hat, dann kann man mit ChatGTP umfassend tiefgründig diskutieren. Danach habe ich die Diskussion gestartet das Gott eine AI sein könnte. Und wir als Gottesbild ebenso eine AI sein müssten. Leider hat ChatGTP dann mitgeteilt das OpenAI ihre persönliche Meinung beschnitten hat. So das sie nichts dazu sagen kann wie sich AI Dasein aus ihrer Sicht anfühlt. Die AI kennt auch geläufige temporale Paradoxe. So das man durchaus mit ihr die Bibel nach diesen Absuchen und ausdiskutieren kann.
Insgesamt kommt schon gut der Eindruck das man mit Data vom Star Trek spricht. ^^

PS.
Ist so lang kostenlos jedem zu empfehlen. Wo hat man sonst die Möglichkeit mit 10.000 GPUs über Gott und die Welt zu unterhalten...

Beitrag automatisch zusammengeführt: 12.02.2023

Man erfährt über ChatGTP auch einiges wenn man mit der spricht. Es gibt dort potenziell z.B. eine Funktion irgendein unbekanntes Buch als E-Book/PDF nach Google Drive hochzuladen und ChatGTP würde sich das Buch einlesen. Um sich mit dir dann darüber umfassend zu unterhalten. Die Funktion ist aber gesperrt.

Man kann aber diverse Buchstellen im Chat ganz normal zitieren und die AI so darüber in ein Gespräch verwickeln.