An Examination Of Filter Bubble Effect Of AI Personalization Algorithms On Consumer Mind


Creative Commons License

Karaman Ö.

Süleyman Demirel Üniversitesi Vizyoner Dergisi, vol.12, no.32, pp.1339-1351, 2021 (Peer-Reviewed Journal)

Abstract

Artificial intelligence algorithms offer marketers an insight to understand consumer behavior. Algorithms that follow the clicks of the consumer and create content based on their past likes offer efficiency and profitability advantages to businesses. Also consumers can focus on offers they may like. On the other hand, the consumer, monitored by the algorithms, connects to a single brand over time, always buys products from same retailers, is forced to buy similar products, is unable to see alternative products and service offers and choose more advantageous one for him. This situation is described by the concept of "filter bubble". According to Pariser, who named the concept, the situation which is called the "filter bubble effect", affects the society negatively by causing the polarization of ideas. In this review, which aims to provide a framework for future research efforts, the process from big data to the formation of personalization algorithms and the effect of creating a filter bubble in the consumer's mind are evaluated from a conceptual point of view with the approaches of different researchers. The subject is examined from the perspective of consumer psychology and ethics, and some examples are given. As a result, in order to avoid the influence of artificial intelligence, it is pointed out that it is possible for the consumer to avoid digital manipulation by having technology knowledge; it is necessary to spend more time learning the language of algorithms as much as possible, questioning their suggestions, and reaching the right information. In addition, it is also emphasized that digital marketing applications should include mutually beneficial surveillance and that the use of data should not lead to insecurity.

Yapay zekâ destekli algoritmalar tüketici davranışını anlamak için pazarlamacılara öngörü olanağı sağlamaktadır. Tüketicinin tıklamalarını takip ederek geçmiş beğenilerine dayalı içerik sağlayan ve doğru hedefleme yapan algoritmalar işletmelere verimlilik ve kârlılık avantajları, tüketicilere ise beğenebileceği hedeflere odaklanabilme fırsatı yaratmaktadır. Öte yandan algoritmalar tarafından izlenen tüketici, zamanla benzeşen ürünleri satın almaya zorlanmakta, tek bir markaya bağlanarak hep aynı perakendeciden ürün almakta ve alternatif ürün/hizmet tekliflerini görüp kendisi için daha avantajlı olanı seçme özgürlüğü tehdit edilmektedir. “Filtre balonu etkisi” olarak adlandırılan bu durum, kavramın isim babası olan Pariser’e göre fikirlerin kutuplaşmasına sebep olarak toplumu olumsuz etkilemektedir. Gelecekteki araştırmalar için bir çerçeve sunmayı amaçlayan derleme niteliğindeki bu çalışmada, büyük veriden kişiselleştirme algoritmalarının oluşumuna uzanan süreç ve algoritmaların tüketici zihninde filtre balonu oluşturma etkisi farklı araştırmacıların görüşleri ışığında kavramsal bir bakış açısıyla değerlendirilmiştir. Konu, tüketici psikolojisi ve etik bakış açısından incelenerek örneklere yer verilmiştir. Çalışma sonunda, tüketicinin dijital manipülasyondan kaçınmasının yine teknoloji bilgisine sahip olmakla mümkün olabileceğine, yapay zekânın etkisi altında kalmamak için algoritmaların dilini olabildiğince öğrenmek, önerilerini sorgulamak, doğru bilgiye ulaşmak için daha fazla zaman harcamak zorunda olduğuna dikkat çekilmiştir. Ayrıca işletmeler tarafından geliştirilecek dijital pazarlama uygulamalarının karşılıklı fayda sağlayan bir gözetleme içermesi, verinin kullanılmasının güvensizliğe yol açmaması gerekliliği vurgulanmıştır.