Stance Detection Dengan Algoritme Gated Recurrent Unit (GRU)

Maharani Aulia Syifa; Dewi Retno Sari Saputro

Maharani Aulia Syifa Universitas Sebelas Maret
Dewi Retno Sari Saputro Universitas Sebelas Maret

Abstract

Pentingnya menangani berita palsu menjadi isu yang perlu mendapatkan perhatian khusus. Salah satu sarana yang mudah untuk menyebarkan suatu informasi yang belum tentu akurat adalah melalui media sosial. Diperlukan teknik untuk mendeteksi berita palsu, salah satunya dengan deteksi sikap (stance detection). Stance detection berfokus pada sikap penulis teks dalam menanggapi suatu klaim informasi, apakah sikap tersebut mendukung (favor), menentang (against), atau none. Salah satu metode untuk memproses data teks berdasarkan stance detection adalah Recurrent Neural Network (RNN) dengan algoritme Gated Recurrent Unit (GRU). Secara umum, RNN merupakan salah satu jenis Neural Network yang digunakan untuk memproses data berurutan (sequential data). Dalam struktur arsitekturnya, RNN menggunakan looping untuk dapat mengelola informasi dari masa lalu sehingga secara otomatis memungkinkan informasi dari masa lalu tetap tersimpan. Kelebihan GRU yaitu memiliki sedikit parameter, memiliki kemampuan yang lebih baik dalam menangani long-term dependencies dan membuatnya sesuai untuk melakukan tugas seperti stance detection, serta memiliki kemampuan dalam mengatasi data yang hilang dibandingkan dengan algoritme lain pada RNN. Berdasarkan hal tersebut, penelitian ini bertujuan untuk melakukan kajian tentang algoritme GRU dalam melakukan stance detection.

References

[1] Q. Zeng, Q. Zhou, and S. Xu, “Neural Stance Detectors for Fake News Challenge,” CS224n Nat. Lang. Process. with Deep Learn., pp. 1–9, 2017.
[2] E. I. Setiawan and I. Lestari, “Stance Classification Pada Berita Berbahasa Indonesia Berbasis Bidirectional LSTM,” J. Intell. Syst. Comput., vol. 3, no. 1, pp. 41–48, 2021, doi: 10.52985/insyst.v3i1.148.
[3] N. Alturayeif, H. Luqman, and M. Ahmed, A systematic review of machine learning techniques for stance detection and its applications, vol. 35, no. 7. Springer London, 2023. doi: 10.1007/s00521-023-08285-7.
[4] M. Umer, Z. Imtiaz, S. Ullah, A. Mehmood, G. S. Choi, and B. W. On, “Fake news stance detection using deep learning architecture (CNN-LSTM),” IEEE Access, vol. 8, pp. 156695–156706, 2020, doi: 10.1109/ACCESS.2020.3019735.
[5] H. Karande, R. Walambe, V. Benjamin, K. Kotecha, and T. S. Raghu, “Stance detection with BERT embeddings for credibility analysis of information on social media,” PeerJ Comput. Sci., vol. 7, pp. 1–20, 2021, doi: 10.7717/peerj-cs.467.
[6] J. Y. Chen, J. Johnson, and G. Yennie, “RNNs for Stance Detection between News Articles,” Stanford Univ. California, US, rep., pp. 1–7, 2017, [Online]. Available: https://github.com/shyamupa/snli-entailment/blob/
[7] D. Mrowca and E. Wang, “Stance detection for fake news identification,” Standford Univ. Standford, CA, Proj. Report, pp. 1–12, 2017, [Online]. Available: https://web.stanford.edu/class/archive/cs/cs224n/cs224n.1174/reports/2760496.pdf
[8] P. H. -, S. B. Utami, and N. Karlina, “Analisis Bibliometrik: Perkembangan Penelitian Dan Publikasi Mengenai Koordinasi Program Menggunakan Vosviewer,” J. Pustaka Budaya, vol. 9, no. 1, pp. 1–8, 2022, doi: 10.31849/pb.v9i1.8599.
[9] A. C. S. Kumar, S. M. Bhandarkar, and M. Prasad, “DepthNet: A recurrent neural network architecture for monocular depth prediction,” IEEE Comput. Soc. Conf. Comput. Vis. Pattern Recognit. Work., vol. 2018-June, pp. 396–404, 2018, doi: 10.1109/CVPRW.2018.00066.
[10] A. Hanifa, S. A. Fauzan, M. Hikal, and M. B. Ashfiya, “Perbandingan Metode Lstm Dan Gru (RNN) Untuk Klasifikasi Berita Palsu Berbahasa Indonesia Comparison Of LSTM And GRU (RNN) Methods For Fake News Classification In Indonesian,” Din. Rekayasa, vol. 17, no. 1, pp. 33–39, 2021, [Online]. Available: https://covid19.go.id/p/hoax-buster.
[11] K. J. M. Tarnate, M. Devaraj, and J. C. De Goma, “Overcoming the vanishing gradient problem of recurrent neural networks in the ISO 9001 quality management audit reports classification,” Int. J. Sci. Technol. Res., vol. 9, no. 3, pp. 6683–6686, 2020.
[12] P. Le and W. Zuidema, “Quantifying the vanishing gradient and long distance dependency problem in recursive neural networks and recursive lstms,” Proc. Annu. Meet. Assoc. Comput. Linguist., no. 2010, pp. 87–93, 2016, doi: 10.18653/v1/w16-1610.
[13] S. Mahjoub, L. Chrifi-Alaoui, B. Marhic, and L. Delahoche, “Predicting Energy Consumption Using LSTM, Multi-Layer GRU and Drop-GRU Neural Networks,” Sensors, pp. 1–20, 2022, doi: 10.3390/s22114062.
[14] X. Wang, J. Xu, W. Shi, and J. Liu, “OGRU: An Optimized Gated Recurrent Unit Neural Network,” J. Phys. Conf. Ser., vol. 1325, no. 1, pp. 0–7, 2019, doi: 10.1088/1742-6596/1325/1/012089.
[15] S. Squartini, A. Hussain, and F. Piazza, “Preprocessing based solution for the vanishing gradient problem in recurrent neural networks,” Proc. - IEEE Int. Symp. Circuits Syst., vol. 5, pp. 713–716, 2003, doi: 10.1109/iscas.2003.1206412.
[16] A. Hanselowski et al., “A retrospective analysis of the fake news challenge stance detection task,” COLING 2018 - 27th Int. Conf. Comput. Linguist. Proc., pp. 1859–1874, 2018.
[17] J. M. Sholar, S. Chopra, and S. Jain, “Towards Automatic Identification of Fake News : Headline-Article Stance Detection with LSTM Attention Models,” Stanford CS224d Deep Learn. NLP Final Proj., vol. 1, pp. 1–15, 2017.
[18] R. Dey and F. M. Salem, “Gate-Variants of Gated Recurrent Unit (GRU),” Midwest Symp. Circuits Syst. Inst. Electr. Electron. Eng. Inc., vol. 784, no. 2017, pp. 1597–1600, 2017.