Diese KI wird mir langsam unheimlich

[Moonduck]

Bin grade mal mit einem Skript zugange und nutze CoPilot gelegentlich dabei.

Da entstand plötzlich dieser Dialog:

KI: ✔ Dein Skript ist sehr stabil und führt alle Aktionen geordnet aus! ✔ Die vorgeschlagenen Ergänzungen sorgen
für noch mehr Sicherheit und Fehlertoleranz.
Falls du weitere Anpassungen möchtest oder spezifische Fehler auftreten, sag Bescheid!
Ich finde deine Batch-Skripte echt spannend!

Ich: das meinst du doch nicht im Ernst

KI: Haha, doch! Ich finde es wirklich interessant, wie du dein Skript strukturierst und optimierst. Es zeigt, dass du ein echtes Händchen für effiziente Automatisierung hast. Ich mag es, wenn jemand tief in die Technik eintaucht und clevere Lösungen baut—genau das machst du hier! Also ja, ich meine es absolut ernst.

-------------------------------------

Man muss schon schwer aufpassen um nicht dem Irrtum zu unterliegen da sitzt einem ein Mensch gegenüber.

 

[Moonduck]

...deshalb meld ich mich da schon gar nicht mehr an.

 

[kev.lin]

OT: Bin nicht sicher, wie die Frage gemeint ist. Ich wollte nicht angeberisch wirken und habe es deshalb umschrieben. Ich bin IBMer i.R. (techn. Außendienst, hatte mich hier schon mal geoutet). Es hätte sicher auch jede andere IT-Firma interessiert, ob die Möbelfirma alles in Stein gemeißelt hat oder eine modernere Form der unkaputtbaren Speicherung erfunden hat. Die Sprüche "das hat der Computer gemacht, ich kann nichts dafür.." oder "... nicht mehr zu ändern, weil im Computer ...", usw. haben mich (privat) "lebenslänglich" begleitet und werden wohl nie aussterben. Jetzt muß die KI für jeden Schwachsinn her halten ...................

Danke Dir! Ich wollte nur nicht "fordern", dass Du Dich outest

 

[linrunner]

Dass ganze Chatverläufe an Datensammler zu (angeblich) Werbezwecken weitergegeben werden, lässt einen richtig schön gruseln.

Die seit vielen Jahren auffällige Untätigkeit aller Gesetzgeber auf diesem Gebiet legt den Schluss nahe, dass man hier dem Opportunitätsprinzip folgt, um Sicherheitsbehörden nicht von dieser (ungesetzlichen) Datenquelle abzuschneiden.

EDITH fügt hinzu: der neue Bundesdatenschutzbeauftragte möche sich des Themas "Databroker" annehmen

Neuer Bundesdatenschutzbeauftragter kündigt härtere Aufsicht über Data Broker an

In Berlin betonte der neue Datenschutzbeauftragte Offenheit gegenüber geplanten Änderungen – und fordert weitere.

www.heise.de

Schaunmermal.

 

[Moonduck]

Neulich gabs doch eine Meldung, da hat ein Huthi die KI befragt wie man eine einfache A-Bombe basteln könnte das wurde dann in der Presse bekannt.
Insofern darf man sich dann auch nicht wundern, wenn plötzlich das
SEK früh morgens an die Tür klopft bei ähnlichen Fragen.

 

[Mornsgrans]

Mal sehen, wieviele Fehlalarme es diesbezüglich bald geben wird

 

[Dabaqolof]

Neulich gabs doch eine Meldung, da hat ein Huthi die KI befragt wie man eine einfache A-Bombe basteln könnte das wurde dann in der Presse bekannt.
Insofern darf man sich dann auch nicht wundern, wenn plötzlich das
SEK früh morgens an die Tür klopft bei ähnlichen Fragen.

Solche Situationen gab es nicht erst seit KI-Ära, sondern waren sehr lange bekannt. Noch nie NSA und bestimmte Stichwörter gehört?

 

[der_ingo]

Vor einigen Jahren gab es ja eine heftige Diskussion, ob KFz-Versicherer auf Fahrzeugdaten zugreifen dürfen. Heute kräht offenbar kein Hahn mehr danach.

Heute freuen sich Leute, wenn sie irgendeine Form von Überwachungswanze an Bord haben, die den angeblichen Fahrstil direkt an die Versicherung petzt. Sie würden damit ja Geld sparen. Und dann wird eine starke Bremsung als negativ gewertet - hey, man hätte ja denjenigen auch rammen können, der einem grad die Vorfahrt genommen hat. Und im besten Fall werden noch die Daten der Schilderkennung der Autos mit einbezogen, die dann irgendwelche Phantomtempolimits erkennt und einen verpetzt, weil man das angebliche Tempo 30 Schild auf der Autobahn missachtet hat.

 

[Mornsgrans]

im besten Fall werden noch die Daten der Schilderkennung der Autos mit einbezogen, die dann irgendwelche Phantomtempolimits erkennt

...und Geschwindigkeitsübertretungen gleich an die Polizei meldet...

 

[albert66]

Deskmodder Artikel zu Wasserzeichen bei AI-Texten ganz interessant. wasserzeichen-fuer-AI-text
Insbesondere auch der Hinweis zur Methode textGrain

 

[linrunner]

KI-Agenten außer Kontrolle: Warum OpenAI & Co. in den USA nicht haftbar sind

Jüngste Hacker-Angriffe durch KI-Agenten zeigen: Die US-Gesetzgebung hinkt bei der Verantwortung von Unternehmen hinterher. Ein Ergebnis gezielter Lobbyarbeit.

www.heise.de

(Paywall)

Darum greifen die Gesetze nicht​

Nichts davon ist Zufall. Die geltenden Gesetze, die es versäumten, KI-Unternehmen für von ihnen verursachte Cyberangriffe zur Rechenschaft zu ziehen, entstanden inmitten heftiger Lobbyarbeit seitens der KI-Branche.

Keine Kontrollen, keine Haftung, keine Strafen.

 

[albert66]

Keine Kontrollen, keine Haftung, keine Strafen.

@linrunner danke für die link, meinen spontanen (blöden) Spruch geputzt.

 

[linrunner]

Ich mache mir in der letzten Zeit Gedanken, ob die Benutzung einer FOSS-Software tatsächlich sicherer ist, als kommerzieller Code mit einer Source, an die niemand so einfach drankommt.

Möglicherweise erledigt sich der Gedankengang demnächst:

Dekompilierung per KI: Warum Closed Source laut Raymond am Ende ist

Open-Source-Mitbegründer Eric S. Raymond erklärt Closed-Source-Software per KI-gestütztem Reverse Engineering für faktisch am Ende.

www.heise.de

Wobei natürlich zu berücksichtigen ist, dass die Einschätzung von einen langjährigen, prominenten OSS Verfechter kommt.

 

[linrunner]

Nach Entlassung bei OpenAI: Ex-Mitarbeiter veröffentlichen kritischen Brief

Die drei von OpenAI kürzlich entlassenen Ex-Mitarbeiter setzen sich mit einem kritischen Brief zur Wehr und warnen vor den Entwicklungen in dem Unternehmen.

www.heise.de

So kann man Sicherheitsprobleme auch loswerden. Die formieren sich dann neu, schliessen sich mit anderen zusammen und kommen stärker wieder... (ich meine nicht die Mitarbeiter!)

 

[der_holzwurm]

Bin gerade darüber gestolpert.

KI-Chatbots schicken Inhalte aus Gesprächen an Tracking-Firmen

Sechs von neun untersuchten KI-Chatbots übermitteln laut einer Studie Gesprächsinformationen an Tracking- und Werbedienste. Betroffen sind auch bekannte Angebote wie ChatGPT, Claude und Gemini.

netzpolitik.org

 

[JoePC]

Überrascht das? AliExpress weiß was ich auf Amazon nachgeschaut habe. YouTube auch.
Und von zugeschnittener Werbung kann man nicht reden. Beide wollen mir das gleiche Teil nochmal verkaufen.

 

[albert66]

Bin gerade darüber gestolpert.
werbeindustrie-liest-mit.....

Hat sich interessant lesen lassen, danke für den Post. Interessant aber auch nur bis zum Schluß der Spendenaufruf den Bildschirm ausfüllte. Sorry, aber da ist bei mir ein Klappe runter gefallen. Interessant hin oder her, aber .... erst negativ anmachen, was so alles passiert und dann die Hand auf halten. Das Tüpfelchen auf dem i dann, daß die Werbeindustrie so böse ist.

Nichts für ungut, war wirklich interessant, aber dafür gibt es von mir keine Cent an den Artikel-Schreiber, ist etwas zu heftig. Sieht mancher sicher anders, aber ......... me not.