Pengarang: vitalik; Penyusun: Deep Tide TechFlow

Dua tahun terakhir bisa dibilang bergejolak untuk Twitter (X). Tahun lalu, Elon Musk membeli platform tersebut seharga $44 miliar, dan kemudian merombak staf perusahaan, ulasan konten, model bisnis, dan budaya situs web. Perubahan ini mungkin lebih disebabkan oleh kekuatan lunak Elon Musk, daripada keputusan kebijakan tertentu. Namun, di tengah langkah-langkah kontroversial ini, sebuah fitur baru di Twitter dengan cepat menjadi semakin penting dan tampaknya disukai di seluruh spektrum politik: Catatan Komunitas.

Catatan Komunitas adalah alat pemeriksa fakta yang terkadang melampirkan anotasi kontekstual pada tweet, seperti yang dari Elon Musk di atas, sebagai alat pemeriksa fakta dan anti-disinformasi. Ini awalnya disebut Birdwatch dan pertama kali diluncurkan sebagai program percontohan pada Januari 2021. Sejak itu, secara bertahap berkembang, dengan fase ekspansi tercepat bertepatan dengan pengambilalihan Twitter oleh Elon Musk tahun lalu. Saat ini, Catatan Komunitas adalah fitur reguler tweet yang mendapat banyak perhatian di Twitter, termasuk yang membahas topik politik yang kontroversial. Menurut pendapat saya, dan dari percakapan saya dengan banyak orang di seluruh spektrum politik, Catatan ini informatif dan berharga ketika muncul.

Tapi yang paling menarik bagi saya adalah Catatan Komunitas, yang, meskipun bukan "proyek crypto", mungkin merupakan contoh terdekat dari "nilai crypto" yang pernah kami lihat di dunia arus utama. Catatan Komunitas tidak ditulis atau dikuratori oleh beberapa pakar yang dipilih secara terpusat; sebagai gantinya, siapa pun dapat menulis dan memilih, dan Catatan mana yang ditampilkan atau tidak ditampilkan sepenuhnya ditentukan oleh algoritme sumber terbuka. Situs web Twitter memiliki panduan mendetail dan komprehensif yang menjelaskan cara kerja algoritme, dan Anda dapat mengunduh data yang berisi Catatan dan suara yang diposting, menjalankan algoritme secara lokal, dan memverifikasi bahwa hasilnya cocok dengan apa yang terlihat di situs web Twitter. Meskipun tidak sempurna, secara mengejutkan mendekati cita-cita netralitas yang dapat dipercaya dalam situasi yang agak kontroversial, dan pada saat yang sama sangat berguna.

Bagaimana cara kerja algoritme Catatan Komunitas?

Siapa pun yang memiliki akun Twitter yang memenuhi kriteria tertentu (pada dasarnya: aktif lebih dari 6 bulan, tidak ada riwayat pelanggaran, nomor ponsel terverifikasi) dapat mendaftar untuk berpartisipasi dalam Catatan Komunitas. Saat ini, peserta diterima secara perlahan dan acak, tetapi pada akhirnya rencananya adalah mengizinkan siapa saja yang memenuhi syarat untuk bergabung. Setelah diterima, Anda dapat berpartisipasi terlebih dahulu dalam menilai Catatan yang ada, dan setelah penilaian Anda cukup baik (diukur dengan melihat penilaian mana yang cocok dengan hasil akhir Catatan tersebut), Anda juga dapat menulis Catatan Anda sendiri.

Saat Anda menulis Notes, Notes tersebut akan mendapatkan skor berdasarkan review anggota Community Notes lainnya. Ulasan ini dapat dilihat sebagai suara di sepanjang tiga tingkat "membantu", "agak membantu", dan "tidak membantu", tetapi ulasan juga dapat berisi label lain yang berperan dalam algoritme. Berdasarkan review tersebut, Notes diberi skor. Jika skor Catatan melebihi 0,40, maka Catatan ini akan ditampilkan; jika tidak, Catatan ini tidak akan ditampilkan.

Yang membuat algoritme ini unik adalah bagaimana skor dihitung. Tidak seperti algoritme sederhana, yang dirancang untuk sekadar menghitung semacam jumlah atau rata-rata peringkat pengguna dan menggunakannya sebagai hasil akhir, algoritme peringkat Catatan Komunitas secara eksplisit mencoba memprioritaskan mereka yang mendapat peringkat positif dari orang-orang dengan perspektif berbeda. Artinya, jika orang yang biasanya tidak setuju dengan rating akhirnya menyetujui Note tertentu, maka Note tersebut akan diberi rating tinggi.

Mari kita lihat lebih dalam cara kerjanya. Kami memiliki satu set pengguna dan satu set Catatan; kita dapat membuat matriks M di mana sel Mij mewakili bagaimana pengguna ke-i menilai Catatan ke-j.

Untuk Catatan apa pun, sebagian besar pengguna belum memberi peringkat pada Catatan itu, jadi sebagian besar entri dalam matriks akan menjadi nol, tetapi tidak apa-apa. Tujuan dari algoritme adalah untuk membuat model pengguna dan Catatan empat kolom, menetapkan dua statistik kepada setiap pengguna, yang dapat kita sebut "Keramahan" dan "Polaritas", dan menetapkan dua statistik untuk setiap Catatan, kita menyebutnya "kegunaan" dan "polaritas". Model mencoba memprediksi matriks sebagai fungsi dari nilai-nilai ini, menggunakan rumus berikut:

Perhatikan bahwa di sini saya memperkenalkan terminologi yang digunakan dalam makalah Birdwatch, serta terminologi saya sendiri untuk memberikan pemahaman yang lebih intuitif tentang arti variabel tanpa masuk ke konsep matematika:

• μ adalah parameter "sentimen publik" yang mengukur seberapa tinggi rata-rata peringkat pengguna pada umumnya.
• iu adalah "keramahan" pengguna, yaitu seberapa besar kemungkinan pengguna cenderung memberikan peringkat tinggi.
• in adalah "kegunaan" dari nada tersebut, yaitu seberapa besar kemungkinan nada tersebut dinilai tinggi. Ini adalah variabel yang kami pedulikan.
• fu atau fn adalah "polaritas" pengguna atau Notes, yaitu posisi mereka pada poros dominan ekstrem politik. Dalam praktiknya, polaritas negatif secara kasar berarti "miring ke kiri" dan polaritas positif "miring ke kanan", tetapi perhatikan bahwa sumbu ekstrem berasal dari analisis data pengguna dan Notes, dan konsep kiri dan kanan tidak di-hardcode.

Algoritme tersebut menggunakan model pembelajaran mesin yang cukup mendasar (standard gradient descent) untuk menemukan nilai variabel terbaik untuk memprediksi nilai matriks. Kegunaan yang diberikan pada Catatan tertentu adalah skor akhir untuk Catatan itu. Catatan akan ditampilkan jika kegunaannya minimal + 0,4.

Kecerdikan inti di sini adalah bahwa "polaritas" menyerap karakteristik Catatan, yang menyebabkannya disukai oleh sebagian pengguna dan tidak disukai oleh pengguna lain, sedangkan "kegunaan" hanya mengukur karakteristik Catatan, Fitur-fitur ini membuatnya disukai oleh semua pengguna. Dengan demikian, memilih kegunaan akan mengidentifikasi Catatan yang disetujui lintas suku dan mengecualikan Catatan yang dipuji di satu suku tetapi tidak disukai oleh suku lain.

Di atas hanya menjelaskan bagian inti dari algoritma. Bahkan, ada banyak mekanisme tambahan yang ditambahkan di atasnya. Untungnya, mereka dijelaskan dalam dokumentasi publik. Mekanisme tersebut antara lain sebagai berikut:

• Algoritme dijalankan beberapa kali, setiap kali menambahkan beberapa "suara semu" ekstrim yang dihasilkan secara acak ke pemungutan suara. Ini berarti bahwa keluaran sebenarnya dari algoritme untuk setiap Catatan adalah rentang nilai, dan hasil akhirnya bergantung pada "tingkat kepercayaan yang lebih rendah" yang diambil dari rentang tersebut dan dibandingkan dengan ambang batas 0,32.
• Jika banyak pengguna (terutama yang memiliki polaritas yang mirip dengan Catatan) menilai Catatan sebagai "tidak membantu" dan mereka juga menetapkan "label" yang sama (misalnya, "bahasa argumentatif atau bias", "Catatan sumber tidak didukung") seperti alasan penskoran, maka batas kegunaan yang diperlukan Catatan untuk diterbitkan meningkat dari 0,4 menjadi 0,5 (ini mungkin tampak kecil, tetapi sangat penting dalam praktiknya).
• Jika Note diterima, kegunaannya harus di bawah ambang 0,01 poin yang diperlukan untuk menerima Note.
• Algoritme berjalan lebih sering dengan banyak model, terkadang meningkatkan Catatan dengan skor kegunaan mentah antara 0,3 dan 0,4.

Secara keseluruhan, Anda berakhir dengan beberapa kode Python yang cukup rumit dengan total 6282 baris yang tersebar di 22 file. Tapi semuanya terbuka, dan Anda dapat mengunduh Catatan dan data penilaian dan menjalankannya sendiri untuk melihat apakah keluarannya cocok dengan apa yang sebenarnya terjadi di Twitter.

Jadi seperti apa praktiknya?

Mungkin perbedaan terbesar antara algoritme ini dan metode yang hanya mengambil skor rata-rata dari suara orang adalah konsep yang saya sebut nilai "polaritas". Dokumentasi algoritme merujuknya sebagai fu dan fn, menggunakan f sebagai faktor karena kedua suku tersebut saling mengalikan; suku yang lebih umum sebagian karena pada akhirnya diinginkan untuk menjadikan fu dan fn multidimensi.

Polaritas ditetapkan ke pengguna dan Notes. Tautan antara ID pengguna dan akun Twitter yang mendasarinya sengaja dirahasiakan, tetapi Notes bersifat publik. Faktanya, setidaknya untuk kumpulan data bahasa Inggris, polaritas yang dihasilkan algoritme berkorelasi sangat erat dengan kiri dan kanan.

Berikut beberapa contoh Notes dengan polaritas sekitar -0,8:

Perhatikan bahwa saya tidak memilih-milih di sini; ini sebenarnya adalah tiga baris pertama dalam spreadsheet scoring_notes.tsv yang saya hasilkan saat menjalankan algoritme secara lokal, dan skor polaritasnya (disebut coreNoteFactor 1 di spreadsheet) kurang dari -0,8.

Sekarang, inilah beberapa Catatan dengan polaritas sekitar +0,8. Ternyata, banyak dari mereka adalah orang-orang yang berbicara tentang politik Brasil dalam bahasa Portugis atau penggemar Tesla dengan marah membantah kritik terhadap Tesla, jadi izinkan saya memilih sedikit dan menemukan beberapa Catatan yang tidak termasuk dalam kategori mana pun:

Sebagai pengingat, "pembagian kiri vs. kanan" tidak di-hardcode ke dalam algoritme dengan cara apa pun; ini ditemukan secara komputasi. Ini menunjukkan bahwa jika Anda menerapkan algoritme ini ke konteks budaya lain, algoritme ini dapat secara otomatis mendeteksi divisi politik utama mereka dan membangun jembatan di antara mereka.

Sedangkan Notes yang memiliki kegunaan paling tinggi terlihat seperti ini. Kali ini, karena Notes benar-benar muncul di Twitter, saya hanya dapat mengambil tangkapan layar satu:

Dan satu lagi:

Untuk Notes kedua, ini membahas lebih langsung dengan tema politik yang sangat partisan, tetapi Notes yang jelas, berkualitas tinggi, dan informatiflah yang mendapat skor tinggi untuk itu. Secara keseluruhan, algoritme tampaknya berfungsi, dan tampaknya layak untuk memverifikasi keluaran algoritme dengan menjalankan kode.

Apa pendapat saya tentang algoritme?

Yang paling mengejutkan saya saat menganalisis algoritme ini adalah kerumitannya. Ada "versi makalah akademis" yang menggunakan penurunan gradien untuk menemukan yang paling cocok dengan vektor lima suku dan persamaan matriks, dan kemudian ada versi sebenarnya, serangkaian eksekusi algoritmik yang kompleks dengan banyak eksekusi berbeda, dan banyak koefisien arbitrer .

Bahkan versi kertas akademis menyembunyikan kompleksitas yang mendasarinya. Persamaan yang dioptimalkannya adalah kuartik negatif (karena ada suku fu*fn kuadrat dalam rumus prediksi, dan fungsi biaya mengukur kuadrat kesalahan). Sementara mengoptimalkan persamaan kuadrat atas sejumlah variabel hampir selalu memiliki solusi unik, yang dapat Anda ketahui dengan aljabar linier yang cukup mendasar, mengoptimalkan persamaan kuartik atas banyak variabel biasanya memiliki banyak solusi, jadi beberapa putaran dari algoritma penurunan gradien Jawaban berbeda mungkin diperoleh. Perubahan input kecil dapat menyebabkan penurunan beralih dari satu minimum lokal ke minimum lainnya, mengubah hasil output secara signifikan.

Perbedaan antara ini dan algoritme yang saya bantu kembangkan, seperti pembiayaan kuadrat, bagi saya seperti perbedaan antara algoritme ekonom dan algoritme insinyur. Algoritme ekonom, paling banter, berfokus pada kesederhanaan, relatif mudah dianalisis, dan memiliki sifat matematika yang jelas yang menyatakan bahwa algoritme tersebut optimal (atau paling tidak buruk) untuk tugas yang ada, dan idealnya membuktikan bahwa Berapa banyak kerusakan yang dapat dilakukan seseorang dalam mencoba memanfaatkannya. Algoritme seorang insinyur, di sisi lain, diperoleh melalui proses trial-and-error berulang untuk melihat apa yang berhasil dan apa yang tidak dalam lingkungan operasi insinyur. Algoritme seorang insinyur bersifat pragmatis dan menyelesaikan pekerjaan; algoritme ekonom tidak sepenuhnya kehilangan kendali saat menghadapi hal yang tidak terduga.

Atau, seperti yang disegani oleh filsuf internet roon (alias tszzl) di utas terkait:

Tentu saja, saya akan mengatakan bahwa aspek "estetika teoretis" dari cryptocurrency diperlukan untuk dapat secara akurat membedakan antara protokol yang benar-benar tidak dapat dipercaya dan yang terlihat bagus dan bekerja dengan baik secara dangkal, tetapi sebenarnya membutuhkan kepercayaan dari beberapa aktor terpusat, Atau lebih buruk lagi, itu bisa menjadi penipuan langsung.

Pembelajaran mendalam efektif dalam kondisi normal, tetapi memiliki kelemahan yang tak terelakkan terhadap berbagai serangan pembelajaran mesin musuh. Jika dilakukan dengan benar, jebakan teknis dan tangga yang sangat abstrak dapat melawan serangan ini. Jadi, saya punya pertanyaan: Bisakah kita mengubah Catatan Komunitas itu sendiri menjadi sesuatu yang lebih mirip algoritme ekonomi?

Untuk melihat dalam praktiknya apa artinya ini, mari jelajahi algoritme yang saya buat untuk tujuan serupa beberapa tahun lalu: Pendanaan kuadrat terikat berpasangan.

Tujuan dari pendanaan kuadrat terikat berpasangan adalah untuk mengisi celah dalam pendanaan kuadrat "konvensional", di mana bahkan jika dua pemain berkolusi satu sama lain, mereka dapat berkontribusi dalam jumlah yang sangat tinggi untuk proyek palsu, meminta dana dikembalikan kepada mereka, dan Dapatkan subsidi besar yang menguras seluruh kumpulan uang Anda. Dalam pendanaan kuadrat terikat berpasangan, kami menetapkan anggaran terbatas M untuk setiap pasangan peserta. Algoritme mengulangi semua kemungkinan pasangan peserta, dan jika algoritme memutuskan untuk menambahkan subsidi ke beberapa proyek P karena baik peserta A maupun peserta B mendukungnya, maka subsidi ini dipotong dari anggaran yang dialokasikan untuk pasangan tersebut (A,B) . Oleh karena itu, meskipun k peserta berkolusi, jumlah yang mereka curi dari mekanisme paling banyak adalah k *(k-1)*M.

Bentuk algoritme ini tidak berfungsi dengan baik dalam konteks Catatan Komunitas, karena setiap pengguna hanya memberikan sedikit suara: rata-rata, suara umum antara dua pengguna mana pun adalah nol, jadi dengan hanya melihat setiap pasangan Pengguna satu per satu, algoritma tidak memiliki cara untuk mengetahui polaritas pengguna. Tujuan model pembelajaran mesin justru untuk mencoba "mengisi" matriks dari data sumber yang sangat jarang yang tidak dapat dianalisis secara langsung dengan cara ini. Tetapi tantangan dengan pendekatan ini adalah bahwa upaya ekstra diperlukan untuk menghindari hasil yang sangat fluktuatif dalam menghadapi sejumlah kecil suara buruk.

Apakah Catatan Komunitas benar-benar bisa melawan Kiri dan Kanan?

Kami dapat menganalisis apakah algoritme Catatan Komunitas benar-benar tahan terhadap ekstrem, yaitu apakah kinerjanya lebih baik daripada algoritme pemungutan suara yang naif. Algoritme pemungutan suara ini sudah agak tahan terhadap ekstrem: postingan dengan 200 suka dan 100 tidak suka akan tampil lebih buruk daripada postingan dengan hanya 200 suka. Tetapi apakah Catatan Komunitas bekerja lebih baik?

Dari sudut pandang algoritme abstrak, sulit dikatakan. Mengapa pos polarisasi dengan peringkat rata-rata tinggi tidak bisa mendapatkan polaritas yang kuat dan kegunaan yang tinggi? Idenya adalah jika suara tersebut bertentangan, polaritasnya harus "menyerap" fitur yang menyebabkan postingan tersebut mendapatkan banyak suara, tetapi apakah itu benar-benar melakukan itu?

Untuk memeriksanya, saya menjalankan implementasi sederhana saya selama 100 putaran. Hasil rata-rata adalah sebagai berikut:

Dalam tes ini, Catatan "baik" diberi peringkat +2 oleh pengguna dari afiliasi politik yang sama, +0 oleh pengguna dari afiliasi politik yang berlawanan, dan Catatan "baik tetapi lebih ekstrem" diberi peringkat oleh pengguna dari afiliasi yang sama dengan peringkat +4 di , dan -2 pada pengguna dari faksi lawan. Meskipun skor rata-ratanya sama, polaritasnya berbeda. Dan faktanya, kegunaan rata-rata Notes yang "baik" tampaknya lebih tinggi daripada Notes yang "baik tapi lebih condong ke ekstrim".

Memiliki algoritme yang lebih dekat dengan "algoritme ekonom" akan memiliki cerita yang lebih jelas tentang bagaimana algoritme menghukum ekstrem.

Seberapa berguna semua ini dalam situasi berisiko tinggi?

Kita dapat mempelajari beberapa di antaranya dengan melihat situasi tertentu. Sekitar sebulan yang lalu, Ian Bremmer mengeluh bahwa sebuah tweet menambahkan Catatan Komunitas yang sangat kritis, tetapi Catatan tersebut telah dihapus.

Ini adalah tugas yang menakutkan. Desain mekanisme adalah satu hal dalam lingkungan komunitas Ethereum di mana keluhan terbesar mungkin hanya $20.000 yang ditujukan kepada influencer Twitter yang ekstrem. Ini adalah cerita yang berbeda ketika menyangkut masalah politik dan geopolitik yang memengaruhi jutaan orang, dan setiap orang cenderung menganggap motif terburuk yang mungkin terjadi. Tetapi berinteraksi dengan lingkungan berisiko tinggi ini sangat penting jika perancang mekanik ingin memberikan pengaruh yang signifikan pada dunia.

Untungnya, algoritme ini bersumber terbuka dan dapat diverifikasi, jadi kami benar-benar dapat memahaminya! Mari kita lakukan. URL tweet asli adalah nomor 1676157337109946369 di bagian akhir adalah ID tweet tersebut. Kami dapat mencari ID tersebut di data yang dapat diunduh dan mengidentifikasi baris tertentu di spreadsheet yang memiliki Catatan di atas:

Di sini kita memiliki ID Notes itu sendiri, 1676391378815709184 . Kami kemudian mencari ID ini di file scoring_notes.tsv dan note_status_history.tsv yang dibuat dengan menjalankan algoritme. Kami mendapat hasil sebagai berikut:

Kolom kedua di keluaran pertama adalah peringkat Notes saat ini. Keluaran kedua menampilkan riwayat Catatan: statusnya saat ini ada di kolom tujuh (NEEDS_MORE_RATINGS), dan status pertama yang diterimanya yang bukan NEEDS_MORE_RATINGS ada di kolom lima (NEEDS_MORE_RATINGS ) . SAAT INI_RATED_HELPFUL). Jadi kita dapat melihat bahwa algoritme itu sendiri pertama kali menunjukkan Catatan dan kemudian menghapusnya setelah peringkatnya turun sedikit - tampaknya tidak ada intervensi pusat yang terlibat.

Kita juga bisa melihat ini dengan cara lain dengan melihat pemungutan suara itu sendiri. Kami dapat memindai file peringkat-00000.tsv untuk mengisolasi semua peringkat untuk Catatan ini dan melihat berapa banyak yang dinilai MEMBANTU dan TIDAK_BERMANFAAT:

Namun, jika Anda mengurutkannya berdasarkan stempel waktu dan melihat 50 suara teratas, Anda akan melihat bahwa ada 40 suara MEMBANTU dan 9 suara TIDAK_BERMANFAAT. Jadi kami sampai pada kesimpulan yang sama: Notes dinilai lebih positif oleh audiens awalnya dan lebih sedikit oleh audiens selanjutnya, jadi peringkatnya mulai tinggi dan menurun seiring waktu menjadi lebih rendah.

Sayangnya, sulit untuk menjelaskan dengan tepat bagaimana Notes mengubah status: ini bukan masalah sederhana "sebelumnya diberi nilai di atas 0,40, sekarang diberi nilai di bawah 0,40, jadi dihapus". Sebaliknya, tingginya jumlah balasan NOT_HELPFUL memicu salah satu kondisi pengecualian, meningkatkan skor kegunaan yang dibutuhkan Notes untuk tetap di atas ambang batas.

Ini adalah peluang belajar hebat lainnya yang memberi kita pelajaran: membuat algoritme netral yang dapat dipercaya benar-benar dapat dipercaya membutuhkan kesederhanaan. Jika Catatan berubah dari diterima menjadi tidak diterima, harus ada cerita yang sederhana dan jelas tentang mengapa hal ini terjadi.

Tentu saja, ada cara lain yang sama sekali berbeda untuk memanipulasi suara ini: Brigading. Seseorang yang melihat Catatan yang tidak mereka setujui dapat mengajukan banding ke komunitas yang sangat terlibat (atau lebih buruk lagi, banyak akun palsu) untuk menilainya TIDAK_BERMANFAAT, dan mungkin tidak perlu banyak suara untuk mendapatkan Catatan Dari " berguna" hingga "ekstrim". Lebih banyak analisis dan pekerjaan diperlukan untuk mengurangi kerentanan algoritme dengan benar terhadap serangan terkoordinasi tersebut. Peningkatan yang mungkin dilakukan adalah tidak mengizinkan pengguna mana pun untuk memberikan suara pada Catatan apa pun, melainkan menetapkan Catatan secara acak kepada penilai menggunakan rekomendasi algoritme "untuk Anda", dan mengizinkan penilai untuk hanya menilai Catatan yang ditugaskan kepada mereka.

Catatan Komunitas Tidak cukup "berani"?

Kritik utama yang saya lihat tentang Catatan Komunitas pada dasarnya tidak cukup. Saya melihat dua artikel terbaru menyebutkan ini. Mengutip salah satu artikel:

Prosesnya mengalami keterbatasan serius karena agar Catatan Komunitas dapat dipublikasikan, catatan tersebut harus diterima secara umum oleh konsensus orang-orang di seluruh spektrum politik.

"Itu harus memiliki konsensus ideologis," katanya. Itu berarti orang di sebelah kiri dan orang di sebelah kanan harus setuju bahwa catatan itu harus dilampirkan pada tweet."

Pada dasarnya, katanya, itu membutuhkan "kesepakatan lintas ideologis tentang kebenaran yang hampir tidak mungkin terjadi di lingkungan yang semakin partisan."

Ini pertanyaan yang rumit, tetapi pada akhirnya saya cenderung berpikir bahwa lebih baik membebaskan sepuluh tweet informasi yang salah daripada satu tweet yang dianotasi secara tidak adil. Kami telah melihat pemeriksaan fakta selama bertahun-tahun yang berani dan dari perspektif "sebenarnya kami tahu yang sebenarnya, kami tahu satu sisi lebih sering berbohong daripada yang lain". Apa yang akan terjadi?

Sejujurnya, ada ketidakpercayaan yang cukup luas terhadap konsep pengecekan fakta. Di sini, salah satu strateginya adalah: abaikan kritik tersebut, ingat bahwa pemeriksa fakta mengetahui fakta lebih baik daripada sistem pemungutan suara mana pun, dan tetap menggunakannya. Tetapi melakukan semua pendekatan ini tampaknya berisiko. Ada nilai dalam membangun institusi antar suku yang setidaknya dihormati oleh semua orang. Seperti diktum William Blackstone dan pengadilan, saya merasa bahwa mempertahankan rasa hormat itu membutuhkan sistem yang salah karena kelalaian, bukan karena kesalahan sukarela. Jadi, tampaknya bermanfaat bagi saya bahwa setidaknya satu organisasi besar mengambil jalan yang berbeda ini dan melihat rasa hormat antar suku yang langka sebagai sumber daya yang berharga.

Alasan lain mengapa menurut saya Catatan Komunitas boleh konservatif adalah karena menurut saya setiap tweet yang salah informasi, atau bahkan sebagian besar tweet yang salah informasi, harus menerima catatan korektif. Bahkan jika kurang dari satu persen tweet yang salah informasi diberi anotasi untuk memberikan konteks atau koreksi, Catatan Komunitas tetap memberikan layanan yang sangat berharga sebagai alat pendidikan. Tujuannya bukan untuk memperbaiki semuanya; lebih tepatnya, tujuannya adalah untuk mengingatkan orang-orang bahwa ada banyak sudut pandang, bahwa beberapa postingan yang tampak meyakinkan dan terlibat dalam isolasi sebenarnya sangat salah, dan bahwa Anda, ya, biasanya dapat melakukan hal dasar pencarian internet untuk memverifikasi itu salah.

Catatan Komunitas tidak bisa, juga tidak dimaksudkan sebagai, obat mujarab untuk semua masalah dalam epistemologi publik. Masalah apa pun yang tidak terpecahkan, ada banyak ruang untuk mekanisme lain untuk diisi, apakah itu gadget baru seperti pasar prediksi, atau organisasi mapan yang mempekerjakan staf penuh waktu dengan keahlian domain untuk mencoba mengisi kekosongan.

Kesimpulannya

Catatan Komunitas bukan hanya eksperimen yang menarik di media sosial, tetapi juga contoh menarik dari jenis desain mekanisme yang muncul: mekanisme yang secara sadar mencoba mengidentifikasi ekstrem dan cenderung mendorong persilangan daripada melanggengkan perpecahan.

Dua contoh lain dalam kategori ini yang saya ketahui adalah: (i) mekanisme pendanaan kuadrat berpasangan yang digunakan dalam Hibah Gitcoin, dan (ii) Polis, alat diskusi yang menggunakan algoritme pengelompokan untuk membantu komunitas mengidentifikasi pernyataan umum yang populer menjangkau orang-orang yang sering berbeda pendapat. Bidang desain mekanisme ini sangat berharga, dan saya harap kita melihat lebih banyak karya akademis di bidang ini.

Transparansi algoritmik yang disediakan Catatan Komunitas bukanlah media sosial yang sepenuhnya terdesentralisasi - jika Anda tidak setuju dengan cara kerja Catatan Komunitas, tidak ada cara untuk melihat perspektif algoritme yang berbeda pada konten yang sama. Tapi ini adalah yang terdekat yang akan didapat aplikasi hyperscale dalam beberapa tahun ke depan, dan kita dapat melihat bahwa itu sudah memberikan banyak nilai, baik mencegah manipulasi terpusat dan memastikan bahwa platform yang tidak terlibat dalam manipulasi semacam itu mendapatkan apa yang pantas mereka akui. .

Saya berharap dapat melihat Catatan Komunitas dan banyak algoritme dengan semangat serupa berkembang dan tumbuh selama dekade berikutnya.