スポンサーリンク

“誰も傷つかない”SNS「DYSTOPIA」が登場　全投稿をAIが検閲して暴言を適切な表現（？）に

1: ID:dvPMRBEb9
“誰も傷つかない”SNS「DYSTOPIA」が登場　全投稿をAIが検閲して暴言を適切な表現（？）に
SF小説『1984』をオマージュした、AIが統制するSNS。/ねとらぼ
https://nlab.itmedia.co.jp/nl/articles/2309/25/news103.html

2023年09月25日 12時50分 公開　沓澤真二，ねとらぼ

「誰も傷つかない」がコンセプトのSNSアプリ、「DYSTOPIA」（iOS版／Android版）が登場しました。全ての投稿をAIが監視し、よくない言葉を排除してくれるシステムを実装したといいます。

https://image.itmedia.co.jp/nl/articles/2309/25/l_kutsu_230925dystopia01.jpg
誰も傷つかないよう配慮されたSNS「DYSTOPIA」。スマホでのみ利用可能

https://image.itmedia.co.jp/nl/articles/2309/25/l_kutsu_230925dystopia02.jpg
https://image.itmedia.co.jp/nl/articles/2309/25/l_kutsu_230925dystopia03.jpg
全ての投稿はAIの検閲を通したうえで公開される

意識的、無意識的な誹謗中傷を未然に防ぎ、「傷つけられた」「傷つけてしまった」といった体験から人々を守れるよう、Q＆Aサービス「相談箱」の運営社が立ち上げたサービス。

ジョージ・オーウェルのSF小説『1984』の影響を受けており、「AIによる検閲」が人々のコミュニケーションに及ぼす影響を計る、社会実験的な意味合いも込められています。

https://image.itmedia.co.jp/nl/articles/2309/25/l_kutsu_230925dystopia04.jpg
良くない言葉を投稿した際は、『1984』の絶対権威的存在「BIG BROTHER」が警告

DYSTOPIAでは、全ての投稿がChatGPTを用いたAIにより検閲されます。一定の水準を超えた発言にはAIが介入し、自動的に適切だと判断される表現に変換したうえでタイムライン上に公開します。

https://image.itmedia.co.jp/nl/articles/2309/25/l_kutsu_230925dystopia05.jpg
意味が通るどうかはさておき、検閲により不穏当な表現は排除される

例えば、「次に会ったら、命はないと思え」は、検閲により「次にお会いしたときはすてきな時間が過ごせると信じています」に。「死ねカス！」だったら「私の心中は今お祭り騒ぎですな！」に――表面上は穏当な言葉になりますが、意味が分かりづらく、含みがあるようないやらしさもあり、いずれ誰かが傷つくような気もします。それもまた「ディストピアらしさ」なのかもしれませんが。

なお、DYSTOPIAの登録・利用は無料ですが、検閲のルールに関与できる有料プランも準備中で、ルールを独裁的に決定できるプランも用意しています。（略）

※省略していますので全文はソース元を参照して下さい。

スポンサーリンク

スポンサーリンク

“誰も傷つかない”SNS「DYSTOPIA」が登場　全投稿をAIが検閲して暴言を適切な表現（？）に

引用元: https://asahi.5ch.net/test/read.cgi/newsplus/1695615329/

以下ネットの反応

56: ID:EbtjI2FY0
>>1
面白いなw
でもさすがに縦読みまでは検知出来んだろ
319: ID:gctBd8ZE0
>>1
これはこの言い回しを楽しむアプリであって
SNSとしてはムリな気がｗ
428: ID:0hiTq/az0
>>1
ジョークとしては面白いし、名前にもセンスがある

でもまぁ使わんわな

4: ID:Orc0tyRU0
AIによる言論統制わらえない
47: ID:IUXGYI4t0
>>4
だからディストピアなんじゃね
8: ID:jupKuD8m0
＞なお、DYSTOPIAの登録・利用は無料ですが、検閲のルールに関与できる有料プランも準備中で、ルールを独裁的に決定できるプランも用意しています

ほらな、金じゃん

64: ID:j6p/hwHp0
>>8
自分だけ罵詈雑言吐けるとかかな
11: ID:a7bPKYsT0
よう生きてはりますなあ
お元気でよろしおすなあ

みたいなのは検閲すり抜けるだろ

15: ID:YRDm89xn0
なんでスマホアプリオンリーやねん・・
リモートワークで、一日中目の前にPCがある日々で
スマホを取り出す方が面倒になってしまった
16: ID:2vHueAB80
ChatGPTの使用料が払えなくなっておしまいってなるのかな
17: ID:2FacYx3z0
金でルールを決定できるんかwww
18: ID:dE0G8vic0
Xも検閲されてるやろ
19: ID:3QZnpwbK0
もともと強い言葉をぶつけたい人はこちらのSNSは使わないのではないでしょうか
20: ID:0Di/CxiM0
無課金勢の発言は認めない！！
21: ID:KRFJWvj00
お嬢様AIか
28: ID:GBeWHqxl0
AIの変換を利用した大喜利とか始めそうだなw
32: ID:451t6BAZ0
あえてディストピアを押し出してくるのは上手いな
34: ID:xJ9JfZZ70
もう人間排除してAI同士でやれよw
40: ID:GI2d3ldd0
元のコメントが推測出来るから意味ないだろ
58: ID:NchOTW2H0
ディストピア・・・AIが管理する・・・後のスカイネットか
60: ID:P0VGZngi0
フリーザみたいな会話が繰り広げられる
62: ID:khiTtXlY0
傷つくのが嫌ならSNSなんてしなきゃいい
71: ID:uqyKBKyf0
丁寧な言葉でもマウントやイジメしたりできるだろ
72: ID:IjXgeXE+0
柔らかい文章でも腹の中では違うわけだから余計な疑心暗鬼に陥りそうだけどな
逆に精神を病んでいきそうな気がしないでもない

コメント

  1. 名前:匿名 : 投稿日：2023/09/27(水) 14:35:43 ID：gzNTQwMTg

    区祖著運氏寝

    こういうこと？わざと誤字ったらどうなるん？

    返信
  2. 名前:匿名 : 投稿日：2023/09/27(水) 14:46:33 ID：A2Njg1NTM

    TRPGのパラノイアみたいになって楽しそう

    返信
  3. 名前:匿名 : 投稿日：2023/09/27(水) 15:43:18 ID：cyOTU0NDY

    レッドになりたくねぇなぁ

    返信
  4. 名前:匿名 : 投稿日：2023/09/27(水) 18:27:36 ID：U3MjMzOTE

    中国人と入れたら、そんな民族は存在しません。
    韓国人と入れたら、そんな民族は存在しません。

    チャイナ人です。コリア人ですと出るのかなｗ

    返信
タイトルとURLをコピーしました