• SapphireSphinx@feddit.org
    link
    fedilink
    arrow-up
    6
    ·
    edit-2
    2 months ago

    Wir alle wissen, dass die Modelle bzgl Politik nicht frei sind. Das ist nichts neues. Vielleicht konkurriert intern einfach der Zensor mit der Code-Generierung. Auf jeden Fall habe ich noch nie “Falun Gong” oder “Tian’anmen” zusammen mit einer Anfrage nach Code in einem Prompt gehabt und werde es auch nie haben.

    I.ü: Ich würde nie ein chinesisches Modell für Fragen über Politik nutzen. Zumindest nicht ohne das anderweitig zu überprüfen aber was allgemeine(!) Zensur angeht habe ich persönlich bisher tendenziell eher mehr davon bei den kommerziellen US-Modellen erlebt. Das ist aber natürlich anekdotisch.

    Edit:

    Sie gehen davon aus, dass das Modell beim Training unbeabsichtigt gelernt hat, dass die negativ besetzten Begriffe auch zu schlechten Ergebnissen führen müssen. Dass DeepSeek sein Modell entsprechend trainiert, liege daran, dass die chinesische Regulierung KI-Diensten auferlegt, “sozialistische Kernwerte” einzuhalten.

    Ok. Also höchstwahrscheinlich ein “Nothingburger” und über den generierten Code muss man sowieso rüber schauen. Wer das nicht tut, der handelt bei jedem Modell grob fahrlässig, nicht nur bei den chinesischen.