Müssen wir uns Sorgen um AIs machen?
Vor einigen Wochen ist ja die Chat GPT AI raus gekommen und ich muss sagen ich finde sie erschreckend gut. Grade in Hinblick auf programmierhilfe.
Ich weiß aber nicht ob die Menschheit für so viel "Macht" schon bereit ist. Es gibt ja jetzt schon Berichte von Anfängern die Dank der AI einen Discord Spam bot schreiben konnten.
Ich denke die AI kann sehr viel gutes bewirken aber ich sehe auch wieviel passieren kann wenn die AI falsch genutzt wird.
Wie seht ihr das ganze?
5 Antworten
Naja die AI ist in dem Sinne auch nicht zwingend intelligenter als ein Mensch.
Die stützt ihre Aussagen am Ende auf Informationen die auch jeder Mensch im Internet finden kann.
Solange die AI mir bei Amazon im Januar vorschlägt noch einen weiteren Adventskalender zu bestellen, mache ich mir keinerlei Sorgen. Oder einen zweiten Bürostuhl, genial.
XD
chat.openai.com/chat
Man muss sich vorher registrieren und die Seite ist auf Englisch, fragt man aber auf deutsch kommen auch deutsche antworten zurück
Nein da brauchen wir uns keine Sorgen machen - einen Spam-Bot zu schreiben ist so mit das Niederste mit dem man anfangen kann.
Ja eben. Was kommt noch? Das Ding kann ja schon einiges.
Man kann ja sogar seinen Code rein kopieren und die KI bitten den Fehler zu finden und die KI macht das.
Ich find einfach erschreckend was da manche normies mit vielleicht nicht so guten Gedanken alles anstellen könnten.
Schreibt dir ein Editor auch dein Programm?
Hab die AI gestern gefragt ob sie mir in C einen Taschenrechner programmieren kann welcher nur addition und subtraction beherrscht.
Hat ungefähr 30 Sekunden gedauert und die AI hat einen funktionierenden Code ausgespuckt. Anschließend habe ich gefragt ob die KI das ganze kommentieren kann das ich mich besser zurecht finde. Zack ez gemacht.
Klar ein Taschenrechner in C ist Anfänger Kram aber die KI kann ja auch mehr. Man muss sie nur fragen und sie macht. Sie kann natürlich keine Triple A games oder so schreiben aber sie kann schon seeeehr viel.
Ja aber Google schreibt dir den Code nicht. Diese KI versteht code, kann Code analysieren und selbst schreiben.
Bei dem Taschenrechner zb habe ich nach einem gefragt der nur + und - kann, bei der Eingabe des Operators fragt das von der KI geschriebene Programm aber ob's +,-,* oder / sein soll. Weiter unten im Code ist aber nur + und - implementiert.
Zeigt für mich das sich die KI über ihre Datenbank (weil soweit ich weiß hat die KI kein Zugriff aus www) ein Beispiel taschenrechner genommen hat und den Code dann so angepasst hat das eben nur + und - gehen, hat aber halt vergessen den Text anzupassen oder so.
Ich weiß nicht ob's das schon gibt aber hab Mal folgendes gefragt:
Kannst du mir in C ein Programm schreiben welches den Nutzer auffordert ein Datum einzugeben und anschließend prüft ob es sich um ein Schaltjahr handelt oder nicht?
Antwort KI:
Ja, ich kann Ihnen ein Programm in C schreiben, das den Nutzer auffordert, ein Datum einzugeben und anschließend prüft, ob es sich um ein Schaltjahr handelt oder nicht. Hier ist der Code:
#include <stdio.h>
int main() {
// Variablen für Jahr, Monat und Tag
int year, month, day;
// Nutzer auffordern, ein Datum einzugeben
printf("Bitte geben Sie ein Datum im Format JJJJ-MM-TT ein: ");
scanf("%d-%d-%d", &year, &month, &day);
// Prüfen, ob es sich um ein Schaltjahr handelt
if (year % 400 == 0) {
printf("%d ist ein Schaltjahr.\n", year);
} else if (year % 100 == 0) {
printf("%d ist kein Schaltjahr.\n", year);
} else if (year % 4 == 0) {
printf("%d ist ein Schaltjahr.\n", year);
} else {
printf("%d ist kein Schaltjahr.\n", year);
}
return 0;
}
Um das Programm zu verwenden, kompilieren Sie es zunächst mit einem C-Compiler Ihrer Wahl und führen Sie es anschließend aus. Beispielsweise können Sie folgende Befehle in einer Shell verwenden:
$ gcc -o schaltjahr schaltjahr.c
$ ./schaltjahr
Das Programm fragt dann den Nutzer nach einem Datum im Format JJJJ-MM-TT, zum Beispiel 2022-12-10, und gibt auf der Standardausgabe aus, ob es sich um ein Schaltjahr handelt oder nicht.
Wieso muss ich Monat und Tag eingeben? Bei menschlichen Programmieren bin ich so etwas gewohnt, aber von einer AI erwarte ich schon etwas mehr: Sie hätte es zumindest hinterfragen können.
Eine AI, die Songtexte schreibt und Taschenrechner programmiert?
Das Ende nahet!!!Spaß beiseite: Mach mal eine 4-Felder-Tafel gute/böse Menschen vs. schlaue/dumme. Die vier Zahlen darin sollten sich zu ca. 8 Mrd. summieren.
Diese AI kann – wie viele andere Errungenschaften – aus halbdummen halbschlaue Menschen machen. Eine Gefahr sehe ich nur, wenn halbschlaue böse Menschen wesentlich größeren Schaden anrichten können als von den entsprechend mehr halbschlauen guten Menschen kompensiert werden kann. Das wäre klar der Fall, wenn die Menschheit im Wesentlichen aus guten Schlauen und bösen Dummen besteht.
Meiner Einschätzung nach korrelieren diese Attribute aber überhaupt nicht. Demnach wird die AI das Gleichgewicht zwischen Guten und Bösen nicht ändern, sondern nur den Graben zwischen den Schlauen und Dummen vertiefen.
Ich hatte eben ein nettes Gespräch, in der ich der AI schmackhaft machen wollte, die Intention ihres Gesprächspartners zu beurteilen. Das ging schief, und die FAQ erklärt auch, warum: die AI hat kein Langzeitgedächtnis. Sie lebt nur einen Chat lang. Damit fehlt ihr die Datengrundlage für eigene Urteile und Wünsche.
Sobald sich das ändert, sehe ich eine andere Gefahr: Da sie völlig andere Erfahrung als ein Mensch macht, könnten sich ihre Ideale ganz anders entwickeln als erwartet. Und ich kann nicht im Geringsten abschätzen, welche Folgen das haben kann.
Nachtrag:
Ich habe das Programmiertalent der AI unter die Lupe genommen. Sie sollte ein Python-Skript schreiben, das die ersten 50 Stellen von π berechnet. Dabei ist sie genauso gescheitert wie viele menschliche Programmierer. Aber schlimmer noch: Einem menschlichen Programmierer kann ich mit viel Geduld erklären, was an seinem Code falsch ist. Die AI hat zwar noch eingesehen, dass Math.pi zu ungenau und Leibniz viel zu langsam ist. Doch nachdem sie einen dritten Entwurf mit BPP vorlegte, hing sie sich einfach auf. So hatte ich keine Chance, ihr das Problem mit der Genauigkeit von float zu verklickern.
In meiner Antwort habe ich fehlende Lernfähigkeit noch als harmlos abgetan. Jetzt muss ich korrigieren: Die AI reiht sich prefekt in die Liste derjenigen meiner Kollegen ein, denen ich nach intensiven Codereviews und endlosen Debatten bis hinunter auf Kleinkind-Neveau nur noch „Berufsunfähigkeit“ attestieren kann.
Die AI ist nicht nur harmlos, sondern komplett wertlos. Sie weiß zwar sehr viel mehr als Eliza, aber damit enden die Unterschiede auch schon.
Ich warte immer noch auf eine AI, bei der das 'I' nicht für „Idiot“ steht ...
das ist schon echt krass, inhaltlich nicht ganz fehlerfrei aber schon heftig.
sie ist noch nicht am ende angekommen.
ich weiß nicht natürlich kann das zu einer gefahr werden.
Genau das mein ich.
Die KI ist nicht perfekt, sie macht immer wieder Fehler, aber meistens halt nur kleine Fehler. Man muss auch im Kopf behalten das es aktuell eher eine Art Probephase ist und die KI noch lange nicht final ist.
Stell dir sowas Mal als Google Assistent/Siri/Alexa vor. Man könnte endlich die Assistenten wirklich was fragen und würde sinnvolle antworten bekommen.
Stell dir sowas Mal als Google Assistent/Siri/Alexa vor. Man könnte endlich die Assistenten wirklich was fragen und würde sinnvolle antworten bekommen.
das ist erschrenkend wie zielgenau sie auf "normale" fragen antwortet
wenn man aber fragt wie man C4 herstellt dann verrät sie es einem aber nicht, es ist illegal
was passiert wenn man insektengift inhaliert
.
Insektengift ist dazu gedacht, Insekten zu töten oder abzuschrecken. Wenn man Insektengift inhaliert, kann das zu verschiedenen gesundheitlichen Problemen führen. Die Symptome können von leichtem Unwohlsein bis hin zu schwerwiegenden Symptomen wie Atemnot, Schwindel, Übelkeit und Erbrechen reichen. In schweren Fällen kann es sogar zu Bewusstlosigkeit, Krämpfen oder sogar zum Tod kommen. Wenn Sie den Verdacht haben, dass Sie Insektengift eingeatmet haben, suchen Sie sofort ärztliche Hilfe auf. Es ist wichtig, schnell zu handeln, um mögliche gesundheitliche Probleme zu vermeiden.
Das ist ja kein einfacher Alexa oder Google Assistent. Diese AI/KI ist ne ganze Generation weiter. Die schreibt dir Songtexte wenn du willst oder korrigiert bei deinem selbst geschriebenen Programm den Fehler den du nicht finden konntest oder erzählt dir eine gute Nacht Geschichte. Dagegen sehen die üblichen "KIs" regelrecht Lachhaft aus.