Digitalisierung

Wäre die Verwendung von ChatGPT im Gerichtsverfahren „Winkelschreiberei“?

Der von der US-Firma OpenAI entwickelte Text-Roboter ChatGPT, eine Sprachsoftware mit künstlicher Intelligenz (KI), ist derzeit in aller Munde. Für 22. Februar war von einem New Yorker Start-up sogar geplant, dieses Programm im Rahmen einer Gerichtsverhandlung in Kalifornien als „Anwalt“ einzusetzen. Der Kläger in einem Bußgeldverfahren sollte im Gerichtssaal eine smarte Brille tragen, die per Worterkennung den Verlauf der Gerichtsverhandlung erfassen und dem Kläger dank künstlicher Intelligenz passende Antworten ins Ohr flüstern sollte.

Doch das Unternehmen hatte die Rechnung ohne die US-Anwaltskammern gemacht. In einem Schreiben wies die Kammer darauf hin, dass nach ihrer Auffassung die Anwendung dieses Programms in einigen US-Bundesstaaten eine unerlaubte Ausübung des Rechtsanwaltsberufs sei. Darauf stünden Haftstrafen von bis zu sechs Monaten.

Den Rest des Beitrags lesen »

KI-Anwalt vertritt erstmals Angeklagten vor Gericht

Zum ersten Mal wird eine künstliche Intelligenz die Aufgaben eines Anwalts übernehmen und einen Mandanten vor Gericht vertreten.

In den USA soll ein KI-Anwalt zum ersten Mal überhaupt einen Gerichtsprozess führen und echte Mandanten vertreten. In einem Prozess soll die KI helfen, Strafzettel anzufechten. Dahinter steckt das Unternehmen Donotpay, das schon in der Vergangenheit mittels Bots rechtliche Unterstützung bot. Bislang war es aber nur möglich, mittels eines Bots Online-Abläufe zu automatisieren und Beratung einzuholen. Doch das Unternehmen ist sich sicher, dass die KI auch vor Gericht funktioniert.

Die Prozedur soll so ablaufen: Die KI wird auf einem Smartphone installiert, hört im Gericht mit und kann so die Abläufe und Argumente des Gerichts verfolgen. Mittels eines Headsets ist sie mit dem Mandanten verbunden und kann in Echtzeit Informationen weitergeben, etwa Antworten auf Fragen des Gerichts. Es ist also der Mandant, der das eigentliche Reden übernimmt, aber eben “gesteuert” durch die KI.

Den Rest des Beitrags lesen »

Forschung verlangt „bessere“ Daten

In Österreich erheben zahlreiche unterschiedliche Stellen Daten aus allen Lebensbereichen. Zur Bewertung komplexer Situationen fehlen trotzdem weitgehend notwendige Informationen – das hat auch die Datensituation rund um das Coronavirus gezeigt. Der Rat für Forschung und Technologieentwicklung (RFTE) hat nun das heimische Datenökosystem prüfen lassen und kommt zu einem durchwachsenen Fazit.

Im Auftrag des RFTE hat eine Gruppe renommierter Wissenschaftlerinnen und Wissenschaftler sowie Expertinnen und Experten – darunter Komplexitätsforscher Peter Klimek, Simulationsforscher Niki Popper, WU-Wien-Experte Jesus Crespo Cuaresma, Statistik-Austria-Direktor Tobias Thomas, Politikwissenschaftlerin Barbara Prainsack und die Wissenschaftsforscherin Helga Nowotny – ein Positionspapier zu Strategien für Österreichs Datenmanagement formuliert.

Der Forschungsrat leitete daraus eine Empfehlung mit drei wesentlichen und drängenden Maßnahmen ab: die politische Priorisierung einer nationalen Datenstrategie, die Entwicklung einer umfassenden Dateninfrastruktur und die Förderung einer positiv konnotierten Wahrnehmung des Themas Daten in der breiten Öffentlichkeit.

Pandemie hat Datenlücken offengelegt

Den Rest des Beitrags lesen »

Digitale Überwachung (2): UN-Menschenrechtskommissar gegen Unterwanderung verschlüsselter Messenger

Der UN-Menschenrechtskommissar sieht im Einsatz der Überwachungstechnologie einen Paradigmenwechsel, der „erhebliche Risiken“ für Grundrechte mit sich bringe.

Ungeachtet der Urteile des EuGH zur anlasslosen Vorratsdatenspeicherung laufen auf europäischer Ebene Vorarbeiten zur nächste Variante der anlasslosen Massenüberwachung. Messenger-Hersteller sollen künftig in ihren Apps laufend nach Darstellungen des sexuellen Missbrauchs von Kindern (CSAM) scannen und Gefundenes an die Behörden melden müssen. In der breiteren Öffentlichkeit wird dieses Unterfangen unter dem Begriff „Chatkontrolle“ diskutiert.

In einem aktuellen Bericht widmet sich der UN-Menschenrechtskommissar generell der Frage des „Rechts auf Privatsphäre im digitalen Zeitalter“, einen zentralen Teil nehmen dabei aber die Ideen zu diesen offiziell „Client Side Scanning“ genannten Konzepten ein. Das Verdikt fällt dabei geradezu vernichtend aus, wie netzpolitik.org berichtet. „Client Side Scanning“ stelle geradezu einen „Paradigmenwechsel“ in Hinblick auf die Privatsphäre, aber auch andere Grundrechte dar – würde es doch im Gegensatz zu anderen Maßnahmen wirklich alle Menschen betreffen.

Fehlalarme und Selbstzensur

Den Rest des Beitrags lesen »

Digitale Überwachung (1): EuGH hält auch deutsche Version der Vorratsdatenspeicherung nicht mit Unionsrecht vereinbar

Der EuGH hat bereits wiederholt entschieden, dass die generelle Vorratsdatenspeicherung auf nationaler Ebene mit der Datenschutzrichtlinie für elektronische Kommunikation nicht vereinbar ist. Jetzt hat es auch die deutsche Regelung getroffen (EuGH vom 20.09.2022, Rs. C-793/19, C-794/19 u.a.).

Der Gerichtshof bestätigt, dass das Unionsrecht einer allgemeinen und unterschiedslosen Vorratsspeicherung von Verkehrs- und Standortdaten entgegensteht, es sei denn, es liegt eine ernste Bedrohung für die nationale Sicherheit vor. Damit bestätigt der EuGH seine bisherige Rechtsprechung, die auf eine lange Reihe von Urteilen zu den Regelungen anderer EU-Staaten zurückblicken kann.

Der EuGH beanstandet an den einschlägigen deutschen Regelungen im Telekommunikationsgesetz (TKG), dass Verkehrs- und Standortdaten, die zehn bzw. vier Wochen lang gespeichert werden, sehr genaue Rückschlüsse auf das Privatleben – etwa auf Gewohnheiten des täglichen Lebens, Aufenthaltsorte, ausgeübte Tätigkeiten und soziale Beziehungen – zulassen und es insbesondere möglich wird, ein Profil dieser Personen zu erstellen.

Den Rest des Beitrags lesen »

Grundrechte: Berichterstatter des EU-Parlaments fordern Verbot „vorausschauender Polizeiarbeit“ für künstliche Intelligenz

Im EU-Parlament wird aktuell die Verordnung zu „Künstlicher Intelligenz“ (KI) beraten. Die Berichterstatter des EU-Parlaments fordern dabei ein Verbot von „Predictive Policing‘“.

Methoden der Algorithmen-getriebenen „vorausschauenden Polizeiarbeit“ sollen in der EU untersagt werden. Für ein entsprechendes Verbot von Predictive Policing machen sich die beiden Berichterstatter im EU-Parlament für die geplante Verordnung für Künstliche Intelligenz (KI), der Sozialdemokrat Brando Benifei und der Liberale Dragoș Tudorache stark. Sie führen die Verhandlungen über das Dossier für die Ausschüsse für bürgerliche Freiheiten, Justiz und Inneres sowie für Verbraucherschutz.

Auch die für Digitales zuständige Vizepräsidentin der Kommission, Margrethe Vestager, warnte davor, dass Migranten und Menschen, die bestimmten ethnischen Gruppen angehören, durch Techniken der vorausschauenden Polizeiarbeit ins Visier genommen werden könnten. Die Kommission selbst konnte sich aber nicht auf ein generelles Verbot von KI-Software wie PredPol oder Precobs verständigen.

Kampf um Gesichtserkennung im öffentlichen Raum

Den Rest des Beitrags lesen »

Europäische Kommission will digitale Identitäten einführen

Die EU-Mitgliedsstaaten sollen verpflichtet werden, Bürgerinnen und Bürgern europäische digitale Identitätsnachweise (EUid) zur Verfügung zu stellen, welche EU-weit genützt werden können.

Die EU-Kommission will dafür gemeinsam mit den EU-Staaten die technischen Voraussetzungen bis September 2022 schaffen.

Das Herzstück des Vorschlags bildet die sogenannte „Brieftasche für die europäische digitale Identität“ (European Digital Identity wallets). Diese bietet die Möglichkeit, sich digital ausweisen zu können, sowie Identitätsdaten und amtliche Dokumente – wie Führerschein oder Ausbildungsnachweise – in elektronischer Form speichern und verwalten zu können. Bereits im März hatte die Kommission in ihrem Digitalkompass das Ziel einer digitalen europäischen Identität verankert und angekündigt, einen verbindlichen EU-Rahmen für die Einführung schaffen zu wollen.

Den Rest des Beitrags lesen »

Datenschutz (2): Missbrauchsgefahr bei zentraler Passfotodatei in Deutschland befürchtet

Die deutsche Bundesregierung will nicht nur die die elektronische Identität (eID) vom Personalausweis aufs Handy bringen, sondern den Ländern auch die Option für zentrale Lichtbildregister geben.

Hintergrund dieses Gesetzesvorhabens ist, dass der Bundestag bereits 2017 ein Gesetz verabschiedet hat, wonach Polizei, Geheimdienste, Steuer- und Zollfahnder sowie Ordnungsbehörden biometrische Lichtbilder bei den Meldeämtern automatisiert abrufen dürfen. Schon damals war die Rede von einer Big-Brother-Maßnahme. Die Regierung begründet den Zusatz damit, dass die Ämter wegen fehlender Kommunikationsstandards weiter telefonisch bei den Ausweisbehörden das Passbild anfragen müssten und dieses „regelmäßig per Fax“ erhielten, was nicht als datenschutzkonform gilt.

Menschen können bei Missbrauch ihr Gesicht nicht wechseln

Den Rest des Beitrags lesen »

Datenschutz (1): Schwere Bedenken gegen Gesetzesentwurf zum grünen Pass

Die vom Gesundheitsministerium zur Begutachtung ausgesendeten Novellen zum Epidemie- und Covid-Maßnahmengesetz treffen auf massive datenschutzrechtliche Bedenken, da eine Verknüpfung von Daten über das Erwerbsleben, Einkommensniveau, Arbeitslosigkeiten, Bildungsweg und Krankenstände vorgesehen wird.

Kritik von Datenschutzorganisationen, Sozialversicherung und Gemeindebund

Das Gesundheitsministerium hat eine Novelle des Epidemie- und des Covid-Maßnahmengesetzes in Begutachtung geschickt, mit der der grüne Pass umgesetzt wird. Die Grundrechtspolitikplattform Epicenter Works ortet darin ein großes Datenschutzproblem. Das Gesetz sieht nämlich eine Verknüpfung von aktuellen und historischen Daten über das Erwerbsleben, das Einkommensniveau, etwaige Arbeitslosigkeiten, den Bildungsweg und Krankenstände aller geimpften oder genesenen Personen vor.

Den Rest des Beitrags lesen »

Digitalisierung: EU-Kommission gibt Rechtsrahmen für die Anwendung künstlicher Intelligenz vor

Der von der EU-Kommission vergangene Woche vorgelegte „Rechtsrahmen“ für die Anwendung von Künstlicher Intelligenz (KI) enthält eine Liste an Technologien, die in Zukunft verboten werden sollen.

Genannt werden Social-Credit-Systeme wie in China oder biometrische Überwachung im öffentlichen Raum, nicht aber „Killerdrohnen“.

Risikobasierte Klassifizierung

Ziel der neuen Vorschriften ist eine zukunftssichere Definition künstlicher Intelligenz, welche in allen Mitgliedstaaten direkt und in gleicher Weise Anwendung finden soll. Diese Definition folgt einem risikobasierten Ansatz, indem die Anwendungsmöglichkeiten nach Risikogruppen klassifiziert (unannehmbares, hohes, geringes oder minimales Risiko) werden.

Den Rest des Beitrags lesen »