Dua label moderasi boleh datang daripada penyemak yang berlainan
Apabila semakan komen diserahkan kepada orang lain, dua label boleh dipaparkan tanpa menyatakan siapa yang memilihnya. Penilaian sejarah di Wikipedia menunjukkan mengapa butiran itu penting kepada orang seterusnya yang membaca kes tersebut.
Analisis asal Influence IQ terhadap penilaian terpilih dalam set data sejarah serangan peribadi Wikipedia Detox. Analisis diselesaikan pada 25 Oktober 2026 (UTC).
Abstrak
Daripada 13,824 petikan perbincangan sejarah Wikipedia yang terpilih, 155 menerima label petikan/pelaporan dan label serangan yang ditujukan kepada penerima dalam kalangan 10 penilaian individu masing-masing. Dalam 98 daripada 155 petikan itu, sekurang-kurangnya seorang penyemak memilih kedua-dua label. Dalam 57 yang lain, atau 36.8%, label tersebut datang hanya daripada penyemak yang berlainan. Peratusan ini merujuk kepada 155 petikan tersebut, bukan kesemua 13,824 petikan.[1][4]
Bagi perniagaan dan pencipta kandungan yang mengurus komen media sosial, pengajaran praktikalnya berkaitan dengan serahan semakan: kekalkan pemerhatian setiap penyemak bersama penilaian orang tersebut. Dua label yang muncul bersama tidak membuktikan bahawa seorang individu memilih kedua-duanya. Kajian ini menerangkan penilaian subjektif terhadap petikan perbincangan sejarah, bukannya kesilapan moderasi atau peraturan untuk memadam komen. Lembaran kerja yang boleh disalin di bawah membantu merekodkan perbezaan ini dalam semakan harian.
Bayangkan seorang pencipta kandungan meminta rakan sekerja meneliti komen yang sukar dikendalikan. Catatan serahan menyertakan dua label: seseorang memetik atau melaporkan serangan, dan seseorang mengarahkan serangan kepada penerima. Sebelum menentukan tindakan, rakan itu memerlukan satu lagi butiran: adakah kedua-dua pemerhatian dibuat oleh penyemak yang sama?
Perbezaan ini boleh hilang apabila maklumat diringkaskan. Seorang individu mungkin memilih kedua-dua pilihan, atau dua orang mungkin menumpukan pada aspek berlainan dalam teks yang sama. Senarai label sahaja tidak memberitahu penyemak seterusnya corak mana yang berlaku. Ia juga boleh menyebabkan kata-kata yang dimaksudkan oleh setiap orang menjadi tidak jelas.
Kami meneliti persoalan itu menggunakan penilaian individu daripada set data penyelidikan yang sedia ada. Bahan asal datang daripada halaman perbincangan Wikipedia. Dalam kajian ini, bahan tersebut membantu memperjelas hubungan antara label dengan penyemak, kemudian membantu perniagaan atau pencipta kandungan memikirkan maklumat yang perlu dikekalkan dalam serahan kes mereka sendiri.
Kekalkan setiap pemerhatian bersama penyemaknya

Mulakan dengan perkara yang sebenarnya diterangkan oleh setiap label
Pilihan pertama bertanya sama ada teks memetik atau melaporkan serangan peribadi yang berasal daripada komen lain. Pilihan kedua berkaitan dengan serangan peribadi yang ditujukan kepada penerima. Penyemak boleh memilih lebih daripada satu pilihan. Ini ialah penilaian terhadap teks yang dipaparkan, bukannya keputusan untuk menyembunyikannya atau bukti bahawa sesuatu dasar telah dilanggar.[2]
Kami menganggap sesuatu label hadir apabila sekurang-kurangnya seorang daripada 10 penyemak memilihnya. Perbandingan ini mengambil kira pilihan mana-mana penyemak. Kami tidak mensyaratkan majoriti, tidak menyifatkan label sebagai persetujuan bersama, dan tidak menguji sama ada label tersebut betul.
Daripada 13,824 petikan terpilih, 12,025 tidak menerima mana-mana daripada dua label ini. Sebanyak 406 lagi menerima label petikan/pelaporan tanpa label serangan kepada penerima, manakala 1,238 menerima label serangan kepada penerima tanpa label petikan/pelaporan. Baki 155 mempunyai kedua-dua label dalam kalangan penilaian mereka.
Huraian tersebut hanya merujuk kepada dua pilihan ini. Petikan tanpa label serangan kepada penerima masih boleh mempunyai jenis label serangan yang lain. Label petikan/pelaporan tidak mengesahkan bahawa teks itu tidak memudaratkan. Nama yang tepat mengelakkan kategori yang berguna daripada bertukar tanpa disedari menjadi kesimpulan yang lebih luas.
Label pada 13,824 petikan terpilih
Sesuatu label dianggap hadir jika sekurang-kurangnya seorang daripada 10 penyemak memilihnya. Lima kategori ini berkaitan dengan dua pilihan tertentu; kategori “Tidak menerima mana-mana daripada dua label ini” tidak bermaksud petikan itu tiada sebarang jenis label serangan.
| Label petikan/pelaporan dan serangan kepada penerima | Petikan |
|---|---|
| Tidak menerima mana-mana daripada dua label ini | 12,025 |
| Label petikan/pelaporan tanpa label serangan kepada penerima | 406 |
| Label serangan kepada penerima tanpa label petikan/pelaporan | 1,238 |
| Kedua-dua label, dengan sekurang-kurangnya satu pasangan daripada penyemak yang sama | 98 |
| Kedua-dua label, diberikan hanya oleh penyemak berlainan | 57 |
57 petikan mempunyai kedua-dua label, tetapi tiada penyemak memilih kedua-duanya
Bagi 155 petikan itu, kami memeriksa respons individu di sebalik setiap label. Dalam 98 petikan, sekurang-kurangnya seorang individu memilih kedua-dua pilihan untuk petikan yang sama. Dalam 57 petikan, pilihan petikan/pelaporan dan serangan kepada penerima datang hanya daripada orang yang berlainan. Tiada respons individu dalam 57 petikan itu mengandungi pasangan tersebut.
Pecahannya ialah 63.2% mempunyai pasangan label daripada penyemak yang sama, manakala bagi 36.8%, label hanya diberikan oleh penyemak yang berlainan. Kedua-dua kumpulan tergolong dalam set 155 petikan yang ditakrifkan secara khusus. Rangka yang lebih besar, iaitu 13,824 petikan, tetap penting kerana menunjukkan asal perbandingan bersyarat tersebut.[4]
Perbezaan ini mengubah dakwaan yang boleh dibuat daripada ringkasan. Mengetahui bahawa kedua-dua label muncul menyokong pernyataan bahawa setiap label dipilih dalam set penilaian itu. Maklumat itu sahaja tidak menyokong pernyataan bahawa seorang penyemak menggambarkan teks dengan kedua-dua cara tersebut.
Corak penyemak yang sama juga tidak menentukan maksud kata-kata itu. Satu petikan sumber boleh menggabungkan tambahan yang dibuat dalam satu semakan Wikipedia, termasuk lebih daripada satu siaran. Seorang penyemak yang memilih kedua-dua pilihan tidak membuktikan bahawa bahagian yang dipetik itu sendiri ialah serangan kepada penerima. Kami tidak memeriksa setiap petikan untuk menerangkan penilaian yang diberikan.[2][6]
57 daripada 155 petikan tiada pasangan daripada penyemak yang sama
Perbandingan ini hanya merangkumi 155 petikan terpilih yang mempunyai kedua-dua label dalam kalangan 10 penilaian masing-masing. Ia menggunakan pilihan mana-mana penyemak, bukannya persetujuan majoriti atau hasil moderasi yang disahkan.
| Siapa yang memberikan dua label | Petikan | Peratus daripada 155 petikan |
|---|---|---|
| Sekurang-kurangnya seorang penyemak memilih kedua-duanya | 98 | 63.2% |
| Label datang hanya daripada penyemak berlainan | 57 | 36.8% |
Sertakan pemerhatian di sebalik label untuk penyemak seterusnya
Dalam perniagaan, kes mungkin diserahkan daripada orang yang memantau komen kepada penanggungjawab akaun. Bagi pencipta kandungan, ia mungkin beralih daripada pembantu kepada pencipta itu sendiri. Orang seterusnya perlu memahami apa yang diperhatikan sebelum memutuskan sama ada hendak membalas, mendapatkan konteks tambahan atau menggunakan dasar akaun yang sedia ada.
Kekalkan pilihan setiap orang bersama-sama. Jika seorang penyemak memilih kedua-dua pilihan, simpan pasangan itu sebagai penilaiannya. Jika dua penyemak memilih pilihan berlainan, kekalkan respons mereka secara berasingan. Satu kes boleh memuatkan lebih daripada satu tafsiran tanpa menggabungkannya menjadi penilaian yang tidak pernah dibuat oleh sesiapa.
Kemudian, tambah penerangan ringkas tentang bahagian teks yang berkaitan. Dalam aliran kerja anda sendiri, nyatakan apa yang kelihatan dipetik, siapa yang ditujukan kata-kata itu, dan balasan sekeliling yang membantu menjelaskan perbualan. Tunjukkan perkara yang masih tidak pasti jika konteks yang ada belum menjawab persoalan. Ini ialah cadangan praktikal; set data tersebut tidak menguji kesannya terhadap keputusan.
Catatan pendek mungkin sudah memadai. Tujuannya ialah membolehkan orang seterusnya mengikuti alasan orang pertama tanpa membina semula keseluruhan semakan. Bagi pasukan yang menyerahkan kes antara syif atau antara jenama dengan pencipta kandungan, ini bermakna menyerahkan pemerhatian asal bersama kategori yang diberikan kepadanya.
Contoh rekaan dengan jumlah label yang sama
Pertimbangkan dua panel semakan rekaan, masing-masing dengan 10 orang yang menilai satu petikan rekaan. Panel ini menerangkan pengiraan; orang, petikan kata-kata dan kesnya bukan daripada set data sebenar. Kedua-dua ringkasan menunjukkan satu pilihan petikan/pelaporan dan satu pilihan serangan kepada penerima.[8]
Dalam panel pertama, Penyemak A memilih kedua-dua pilihan. Seramai 9 orang yang lain tidak memilih mana-mana daripada dua pilihan ini. Terdapat seorang individu yang responsnya mengandungi pasangan tersebut. Catatan serahan boleh mengekalkan penilaian gabungan orang itu dengan tepat, sambil membiarkan tindakan akhir diputuskan secara berasingan.
Dalam panel kedua, Penyemak A memilih petikan/pelaporan dan Penyemak B memilih serangan kepada penerima. Baki 8 orang tidak memilih mana-mana pilihan itu. Jumlah setiap medan masih satu dan satu, tetapi tiada orang memilih kedua-duanya. Menyifatkannya sebagai penilaian gabungan seorang individu akan menambah hubungan yang tidak wujud dalam respons individu tersebut.
Contoh ini juga menjelaskan mengapa kami mengira petikan, bukannya menjumlahkan setiap orang yang sepadan dengan corak itu. Jika dua orang dalam panel pertama masing-masing memilih kedua-dua label, petikan itu masih dikira sekali dalam kumpulan penyemak yang sama. Pengelasannya menanyakan sama ada pasangan sedemikian wujud, bukannya berapa ramai yang memberikannya.
Untuk panel kedua, contoh catatan serahan ringkas boleh berbunyi: “Keputusan masih belum dibuat. Penyemak A mengenal pasti petikan/pelaporan; Penyemak B mengenal pasti bahasa yang ditujukan kepada penerima. Simpan kedua-dua catatan bersama petikan dan balasan sebelumnya. Penanggungjawab akaun akan memeriksa bahagian yang dimaksudkan oleh setiap penyemak sebelum memilih tindakan.” Catatan ini menyampaikan persoalan yang belum selesai tanpa menulis semula respons dua orang sebagai kesimpulan seorang individu.
Dalam serahan sebenar, kekalkan dua catatan berasingan seperti dalam panel kedua. Penyemak seterusnya boleh membacanya bersama teks, bertanya maksud setiap orang dan membuat keputusan mengikut dasar akaun. Kajian ini tidak menentukan sama ada mana-mana penyemak itu betul atau tindakan yang patut diambil bagi kes rekaan tersebut.
Jumlah label yang sama boleh datang daripada corak semakan berlainan

Seorang penyemak memilih kedua-duanya
Panel rekaan pertama mempunyai seorang yang memilih kedua-dua label dan 9 yang tidak memilih mana-mana daripada dua pilihan ini.
Dua penyemak masing-masing memilih satu
Dalam panel kedua, seorang memilih petikan/pelaporan dan seorang lagi memilih serangan kepada penerima. Baki 8 orang tidak memilih mana-mana pilihan itu.
Asingkan keputusan dasar daripada huraian teks
Huraian tentang apa yang terdapat dalam komen dan keputusan tentang tindakan terhadapnya mempunyai tujuan yang berbeza. Seorang penyemak mungkin mengenal pasti bahasa yang dipetik, sedangkan penanggungjawab akaun masih perlu mempertimbangkan perbualan sekeliling dan dasar yang terpakai. Kekalkan langkah tersebut secara berasingan supaya pembaca kemudian dapat melihat bagaimana keputusan dibuat.
Bagi perniagaan yang bekerjasama dengan pencipta kandungan, persetujui siapa yang membuat keputusan itu sebelum timbul perbualan yang sukar. Orang yang memahami aduan produk mungkin bukan orang yang diberi kuasa mengubah pendekatan moderasi akaun. Serahan yang jelas boleh menyatakan kedua-dua peranan tanpa menganggap setiap kes memerlukan beberapa penyemak.
Bagi pencipta kandungan yang bekerja sendiri, perbezaan yang sama boleh dicatat dalam satu nota: apa yang anda perhatikan, konteks yang anda semak dan keputusan anda. Seorang individu boleh menjalankan beberapa langkah sambil mengekalkan tujuan setiap langkah dengan jelas. Set data ini tidak menunjukkan bahawa menambah kakitangan atau satu lagi lapisan semakan meningkatkan hasil.
Kekalkan pemerhatian secara berasingan sehingga anda memahami hubungannya. Pilihan yang berlainan mungkin mencerminkan fokus yang berbeza, bukannya penjelasan yang bercanggah. Pilihan petikan/pelaporan bukan pengecualian automatik, dan pilihan serangan kepada penerima bukan saranan pemadaman yang telah diukur. Tindakan seterusnya perlu disokong oleh perbualan sebenar dan peraturan akaun, bukannya disimpulkan daripada peratusan arkib kami.
Lembaran kerja semakan komen yang boleh anda salin
Salin medan ini ke dalam dokumen semakan atau catatan serahan yang sedia ada. Gunakan hanya maklumat yang diperlukan oleh pasukan anda, dengan tahap akses yang sesuai untuk perbualan tersebut. Lembaran kerja ini tersedia tanpa pendaftaran; ia ialah panduan praktikal, bukannya proses yang diperhatikan dalam kajian.[8]
Kes: [Pautan atau rujukan dalaman.] Akaun/saluran: [Tempat perbualan dipaparkan.] Masa disemak: [Tarikh dan masa.] Kekalkan rujukan yang tetap supaya orang seterusnya dapat mencari bahan yang sama.
Tujuan: [Persoalan apa yang memerlukan keputusan?] Penanggungjawab: [Siapa yang akan membuat keputusan?] Orang seterusnya: [Siapa yang perlu menerima serahan, jika ada?]
Teks yang dipaparkan: [Bahagian yang disemak, disimpan dalam ruang kerja yang diluluskan.] Konteks sekeliling: [Balasan terdahulu atau kemudian yang berkaitan.] Konteks yang tiada: [Perkara yang tidak dapat disemak.]
Penyemak: [Nama atau rujukan penyemak dalaman.] Masa penilaian: [Tarikh dan masa.] Asingkan entri setiap orang, walaupun beberapa orang menggunakan label yang sama.
Pemerhatian petikan/pelaporan: [Ya, tidak atau tidak jelas.] Asas: [Bahagian mana yang kelihatan memetik atau melaporkan serangan orang lain?] Jangan gunakan medan ini untuk memutuskan bahawa teks tidak memudaratkan.
Pemerhatian serangan kepada penerima: [Ya, tidak atau tidak jelas.] Asas: [Bahagian mana yang kelihatan ditujukan kepada penerima, dan mengapa?] Kekalkan jawapan ini secara bebas daripada pemerhatian petikan/pelaporan.
Pemerhatian lain yang berkaitan: [Isu lain yang perlu dipertimbangkan mengikut dasar akaun.] Jangan anggap ketiadaan salah satu daripada dua label kajian sebagai gambaran lengkap perbualan.
Hubungan antara semakan: [Seorang memilih kedua-duanya, orang berlainan memilih pilihan berlainan, atau tidak jelas.] Jika pilihan penyemak berbeza, kekalkan catatan individu mereka sebelum merumuskan kes.
Rujukan dasar: [Peraturan atau panduan yang terpakai.] Keputusan: [Tindakan yang benar-benar dipilih, atau persoalan yang belum selesai.] Alasan: [Bagaimana pemerhatian dan konteks menyokong keputusan tersebut.]
Susulan: [Siapa melakukan apa selepas ini, jika perlu?] Masa serahan: [Bila kes diserahkan kepada orang itu.] Hasil: [Apa yang berlaku selepas keputusan, jika disemak.] Jangan tandakan tindakan yang dirancang sebagai sudah selesai.
Semak semula apabila: [Peristiwa tertentu atau konteks yang masih tiada, jika semakan lagi diperlukan.] Lembaran kerja ini tidak mewajibkan semakan berulang untuk setiap kes; gunakan alasan yang sesuai dengan keadaan.
Semakan tahun mengekalkan 155 petikan yang sama
Kami menetapkan dua semakan sokongan sebelum mengira pasangan label. Semakan pertama mengecualikan petikan bertarikh 2016 kerana julat tahun dalam fail keluaran melebihi tempoh yang diterangkan dalam gambaran keseluruhan sumber dan makalah asal. Ini meninggalkan 13,809 petikan sampel rawak yang layak. Sebanyak 155 petikan yang sama masih mempunyai kedua-dua label, dengan pecahan 98/57 yang sama.[5]
Semakan yang satu lagi menggunakan bahan set data yang disampel secara berasingan dari sekitar peristiwa penyekatan. Dengan peraturan tepat 10 penilaian yang sama, sampel itu mengandungi 42,383 petikan. Daripada 2,457 yang mempunyai kedua-dua label dalam kalangan penilaiannya, 1,354 mempunyai pasangan daripada penyemak yang sama dan 1,103 menerima label hanya daripada orang yang berlainan: masing-masing 55.1% dan 44.9%.
Kumpulan yang diperbanyak dengan bahan sekitar peristiwa penyekatan mempunyai tujuan pensampelan yang berbeza, jadi kami mengekalkannya secara berasingan. Peratusannya tidak menggantikan hasil utama atau menjadi bukti tentang komen jenama semasa. Semakan tahun menangani julat tarikh yang direkodkan; kedua-dua semakan tetap perlu ditafsirkan sebagai penilaian subjektif terhadap petikan sejarah terpilih.
Perbandingan dua semakan yang ditetapkan terlebih dahulu
Setiap baris menggunakan tepat 10 penilaian lengkap bagi setiap petikan. Sampel dengan tambahan bahan sekitar peristiwa penyekatan mempunyai tujuan pensampelan yang berasingan. Mengecualikan 2016 menangani perbezaan antara julat tahun dalam keluaran dengan huraian sumber.
| Perbandingan yang ditetapkan terlebih dahulu | Petikan yang layak | Petikan dengan kedua-dua label dalam kalangan penilaiannya | Dengan pasangan daripada penyemak yang sama | Hanya daripada penyemak berlainan | Peratus yang hanya daripada penyemak berlainan dalam petikan dengan kedua-dua label |
|---|---|---|---|---|---|
| Sampel rawak, tepat 10 penilaian | 13,824 | 155 | 98 | 57 | 36.8% |
| Sampel dengan tambahan bahan sekitar penyekatan, kekal berasingan | 42,383 | 2,457 | 1,354 | 1,103 | 44.9% |
| Sampel rawak tanpa 2016 | 13,809 | 155 | 98 | 57 | 36.8% |
Cara kami menjejak label kepada penilaian individu
Kami menggunakan Wikipedia Talk Labels: Personal Attacks versi 6, set data awam daripada projek Wikipedia Detox. Fail keluaran mengandungi teks daripada semakan sejarah halaman perbincangan serta beberapa penilaian pekerja yang menyertai crowdsourcing bagi setiap petikan. Analisis ini menggunakan respons individu; ia tidak menghasilkan penilaian baharu atau menilai sistem moderasi.[1][2]
Perbandingan utama kami bermula dengan kumpulan sampel rawak dalam keluaran dan mengekalkan petikan yang mempunyai tepat 10 penilaian lengkap daripada individu berlainan. Menetapkan bilangannya pada 10 memberi setiap petikan bilangan peluang yang sama untuk menerima pilihan berpasangan. Ini juga memilih 13,824 daripada 37,492 petikan sampel rawak yang diterbitkan, maka hasilnya tidak mewakili keseluruhan kumpulan itu.[3]
Setiap petikan terpilih menyumbang satu kiraan. Kami memeriksa sama ada salah satu label hadir dalam kalangan penilaian, kemudian sama ada kedua-duanya hadir dalam respons seorang individu terhadap petikan yang sama. Lima kategori itu saling eksklusif dan berjumlah 13,824. Penyebut 155 petikan datang daripada dua kategori yang mempunyai kedua-dua label, bukan daripada semua penilaian atau semua petikan sumber.[4]
Sebelum meneliti pasangan, kami menetapkan kumpulan pensampelan, peraturan kelengkapan data, semakan tahun dan minimum 100 petikan dalam perbandingan bersyarat utama. Sebanyak 155 petikan yang diperhatikan memenuhi syarat itu. Kami tidak menetapkan peratusan wajib, mengubah peraturan untuk memihak kepada sesuatu hasil atau menggabungkan bahan sekitar peristiwa penyekatan dengan kumpulan rawak.
Penyelidikan asal sudah menggunakan penilaian individu, manakala penyelidikan kemudian mengagregatkan setiap medan serangan berdasarkan majoriti. Sumbangan kami lebih khusus: perbandingan deskriptif tentang siapa yang memberikan dua pilihan itu dalam satu set penilaian yang tetap. Ia bukan pembetulan kepada kaedah kajian tersebut. Muat turun menyediakan hasil agregat, kaedah dan arahan penghasilan semula menggunakan fail sumber awam yang tersedia secara berasingan.[6][7]
Jadikan semakan seterusnya lebih mudah diikuti
Persoalan yang berguna dalam serahan kes moderasi media sosial ialah siapa yang membuat setiap pemerhatian dan apa yang mereka terangkan. Dalam perbandingan arkib terpilih ini, 57 daripada 155 petikan dengan kedua-dua label tidak mempunyai penyemak individu yang memilih pasangan itu. Hubungan tersebut akan hilang dalam ringkasan yang hanya mengandungi nama dua label.
Kekalkan hubungan antara pemerhatian orang tersebut, konteks yang berkaitan dan keputusan akhir. Perniagaan atau pencipta kandungan kemudian boleh menerangkan kandungan kes dan alasan tindakan yang dipilih, tanpa mengharapkan satu label kategori mewakili keseluruhan semakan.
- Muat turun semua hasil yang dipaparkan (CSV)
- Muat turun hasil, kaedah dan lembaran kerja semakan (ZIP)
Pendaftaran tidak diperlukan. Pakej ini mengandungi hasil agregat tanpa nama, kaedah, arahan penghasilan semula dan lembaran kerja yang boleh digunakan semula. Ia tidak mengandungi teks perbincangan asal, ID semakan, ID pekerja atau demografi. Fail sumber awam asal tersedia secara berasingan melalui keluaran yang dipautkan.
Sumber dan nota
- Sumber: Wikipedia Talk Labels: Personal Attacks, Figshare versi 6, DOI 10.6084/m9.figshare.4054689.v6, diterbitkan pada Februari 2017 di bawah CC0. Kami menggunakan attack_annotated_comments.tsv (fail 7554634) dan attack_annotations.tsv (fail 7554637), dengan semakan MD5 penyedia serta SHA-256 yang dikira secara bebas. Influence IQ menyelesaikan pemilihan, pengiraan dan tafsiran pada 25 Oktober 2026 (UTC). Kajian ini tidak mengumpulkan komen baharu, menghasilkan anotasi baharu atau mengukur platform sosial yang sedang beroperasi.
- Penyedia mentakrifkan quoting_attack sebagai tanggapan pekerja tentang petikan/pelaporan serangan daripada komen lain, dan recipient_attack sebagai serangan yang ditujukan kepada penerima. Antara muka membenarkan beberapa pilihan. Serangan umum ialah respons sumber yang berasingan, bukannya nilai OR yang dibina semula daripada subjenis dalam analisis ini. Teks yang diterbitkan mencantumkan tambahan yang dibuat dalam satu semakan; ia bukan ringkasan suntingan dan tidak semestinya satu siaran lengkap atau keseluruhan perbualan. Ruang nama perbincangan, kumpulan pensampelan dan pembahagian model train/dev/test mengekalkan makna yang didokumentasikan.
- Fail lengkap mengandungi 115,864 petikan unik, 1,365,217 pasangan penilaian semakan/pekerja yang unik dan 4,053 pekerja. Pemeriksaan struktur tidak menemui pasangan pendua, cantuman tanpa padanan, baris rosak atau nilai penanda yang hilang/tidak sah. Kelayakan memerlukan tepat 10 penilaian lengkap daripada pekerja berlainan merentas kesemua 5 penanda sumber, dengan kedua-dua ruang nama perbincangan yang didokumentasikan dan semua pembahagian model disertakan; setiap petikan menyumbang satu kiraan dengan wajaran sama. Kumpulan rawak utama mengekalkan 13,824 daripada 37,492 petikan. Kumpulan berasingan yang diperbanyak dengan bahan sekitar peristiwa penyekatan mengekalkan 42,383 daripada 78,372. Pekerja yang menilai petikan berlainan berulang kali adalah sah; tiada penggabungan teks serupa, pemadaman berdasarkan keselarasan antara penanda atau pengekodan semula serangan umum dikenakan.
- Anggap Q menandakan sebarang pilihan petikan/pelaporan dan R sebarang pilihan serangan kepada penerima bagi petikan yang layak. Kehadiran kedua-duanya dalam set penilaian memerlukan sekurang-kurangnya satu Q dan satu R dalam kalangan 10 penilaian. Kehadiran pasangan daripada penyemak yang sama turut memerlukan Q dan R dalam satu respons semakan/pekerja; kategori hanya daripada penyemak berlainan tidak mempunyai respons sedemikian. Penyebut bersyarat utama ialah 98 + 57 = 155; pecahan tepat 98/155 dan 57/155 dipaparkan sebagai 63.2% dan 36.8%. Peratusan menggunakan aritmetik nisbah tepat dan pembundaran half-up kepada 1 tempat perpuluhan. Sebelum mengira pasangan, kami mensyaratkan sekurang-kurangnya 100 petikan dengan kedua-dua label untuk perbandingan bersyarat utama, tanpa ambang peratusan yang memihak kepada hasil tertentu. Tiada selang keyakinan populasi, ujian kesignifikanan, dakwaan kebebasan atau anggaran ketepatan dibuat.
- Semakan sensitiviti yang ditetapkan terlebih dahulu bagi sampel dengan tambahan bahan sekitar peristiwa penyekatan menggunakan peraturan tepat 10 penilaian yang sama dan dikekalkan berasingan daripada sampel rawak utama. Lima bilangannya ialah 20,911 tanpa mana-mana dua label, 959 dengan label petikan/pelaporan tanpa label serangan kepada penerima, 18,056 dengan label serangan kepada penerima tanpa label petikan/pelaporan, 1,354 kedua-dua label daripada penyemak yang sama dan 1,103 kedua-dua label hanya daripada penyemak berlainan; jumlah 42,383, dengan penyebut bersyarat 2,457. Mengecualikan 2016 daripada sampel rawak utama meninggalkan 13,809 petikan, dengan lima bilangan 12,012 / 406 / 1,236 / 98 / 57 dalam turutan yang sama. Sebanyak 155 petikan bersyarat dan pecahan pasangan 98/57 tidak berubah. Ini ialah semakan deskriptif, bukannya replikasi populasi bebas atau bukti bahawa kumpulan pensampelan itu boleh dibandingkan.
- Ex Machina: Personal Attacks Seen at Scale oleh Wulczyn, Thain dan Dixon pada 2017 menyediakan asas kerja crowdsourcing dan pemodelan ini. Makalah WAC tahun 2020 oleh Cécillon dan rakan-rakan mengekalkan matriks pekerja mengikut medan dan mengagregatkan medan serangan secara berasingan berdasarkan majoriti. Itu ialah kaedah sedia ada, bukannya kesilapan yang dibuktikan oleh kajian ini. Perbandingan kami menggunakan kehadiran label dalam mana-mana satu daripada 10 penilaian dan pasangan dalam respons yang sama, bukan prestasi label majoriti. Perbandingan Influence IQ mengira sama ada dua pilihan itu diberikan oleh penyemak yang sama atau hanya oleh penyemak berlainan bagi setiap petikan terpilih.
- Gambaran keseluruhan sumber menyebut 2001–2015 dan makalah asal 2004–2015; fail versi 6 yang ditetapkan mengandungi nilai tahun 2001–2016. Skema status log masuk penyedia menyatakan 0/1, manakala fail keluaran menggunakan False/True; rentetan penanda binari ialah 0.0/1.0. Kami mengekalkan perbezaan antara dokumentasi dengan pemerhatian ini tanpa menentukan sebabnya. Penghurai menerima literal keluaran yang tepat, tanpa membundarkan atau memaksa penukaran nilai label. Pakej mendokumenkan versi sumber, peraturan pemilihan dan langkah untuk menghasilkan semula analisis daripada fail awam.
- Dua panel semakan yang masing-masing mempunyai 10 orang, respons Penyemak A/B dan pilihan serahan ialah contoh pembelajaran rekaan. Ia tidak mengandungi teks perbincangan asal atau pengecam daripada set data. Kedua-dua panel rekaan mempunyai satu pilihan petikan/pelaporan dan satu pilihan serangan kepada penerima, tetapi hanya panel pertama mempunyai pasangan daripada orang yang sama. Lembaran kerja dan ilustrasi konsep ialah penerangan praktikal, bukannya aliran kerja sumber yang diperhatikan, dasar moderasi yang diuji atau jaminan keputusan yang lebih baik.
Semua versi bahasa diterjemahkan terus daripada sumber bahasa Inggeris. Setiap edisi menerangkan set data sejarah Wikipedia berbahasa Inggeris dan penilaian terpilih yang sama. Terjemahan tidak menghasilkan dapatan pasaran tempatan. Influence IQ bertanggungjawab terhadap analisis, tafsiran dan terjemahan.