網絡數據挖掘

    -回復 -瀏覽
    樓主 2020-11-16 14:02:29
    舉報 只看此人 收藏本貼 樓主
    點擊上方
    “藍色字”
    可關注我們!


    人們在訪問某網站的同時,便提供了個人對網站內容的反饋信息:點擊了哪一個鏈接,在哪里瀏覽時間最多,用了哪個搜索項、總體瀏覽時間、個人姓名和住址等。所有這些信息都被保存在一個數據庫中。


    從數據庫保存的信息來看,網站擁有了大量的網站訪問者及其訪問內容的信息,但擁有這些信息卻不見得能夠充分利用。借助數據倉庫報告系統(一般稱作在線分析處理系統),只能報告可直接觀察到的和簡單相關的信息,不能告訴網站信息模式及怎樣對其進行處理,并且它很難深刻分析復雜信息,需要網站自已加工與處理。


    然而,廠商和商業分析員可以采用數據挖掘技術來解決上述問題,即通過機器學習算法,找到數據庫中的隱含模式,報告結果或按照結果執行。對于數據挖掘技術,我們給廠商提供的最好幫助是:介紹數據挖掘技術所能解決的問題,詳述數據挖掘技術,并深入討論相關解決方案。

    認識訪問者


    ---- 為了讓網站能夠使用數據挖掘技術,廠商必須記錄訪問者特征及訪問者所使用的條款特征。


    ---- 訪問者特征包括人口統計特征、心理特征和技術特征。人口統計特征是一些可變的屬性,比如家庭地址、收入、購買力或所擁有的娛樂設備。心理特征包括通過心理調查發現的個性類型,比如對兒童的保護傾向、購買時的沖動性及早期的技術興趣等。技術特征是指訪問者的系統屬性,比如所采用的操作系統、瀏覽器、域名和調制解調器的速度等等。


    ---- 條款特征包括網絡內容信息(介質類型、內容分類和URL)和產品信息(產品編號、產品目錄、顏色、體積、價格、利潤、數量和特價等級)等內容。


    ---- 當訪問者訪問某網站時,有關訪問者的數據便會被逐漸積累起來。訪問者——條款的交互信息主要包括購買歷史、廣告歷史和優選信息,其中,購買歷史是一個購買產品和購買日期的目錄;廣告歷史表明把哪一個條款展示給訪問者;優選信息是指訪問者訪問的優先等級;點擊流信息是訪問者點擊的超級鏈接的歷史信息;鏈接機會是指提供給訪問者的超級鏈接。訪問者——網站統計信息是指每次會話的信息,比如總的訪問時間、所瀏覽的網頁及每次會話的利潤等。訪問者——公司信息包括一個訪問者推薦客戶的數量、每個月的訪問次數及上一次的訪問時間等,還包括商標評價,即訪問者對商標正面或負面的評價,此信息可以通過周期性的廠商調查來獲得。


    列出目標


    ---- 在網上進行交易的最大優點是廠商可以更加有效地估計出訪問者的反應。當廠商有明確的且可以量化的目標時,采用數據挖掘技術的效果最好。廠商可以考慮這樣一些目標:增加每次會話的平均瀏覽頁數;增加每次結賬的平均利潤;減少退貨;增加顧客數量;提高商標知名度;提高回頭率(比如在30天內重新回來的顧客的數量);增加每次訪問的結賬次數。


    理解問題


    ---- 解決問題的第一步是清楚地描述問題。通常,網絡廠商需要解決的問題是如何尋找合適的廣告人群、將網頁個性化、把同時購買的貨物放在同一個網頁上、自動地把商品分類,找出同一類訪問者的特征、估計貨物丟失的數據并預測未來行為。所有這一切都涉及尋找并支持各種不同的隱含模式。


    尋找目標


    ---- 廠商采用目標尋找技術,選擇接收特定廣告的人群,以增加利潤,提高商標知名度,或增加其他可量化的收入。在網上進行目標尋找必須考慮各種不同的廣告費用。


    ---- 在一個訪問者登記的網站上,登廣告者可以根據地理信息確定廣告目標。比如生活在一個國家不同地區或訪問不同網站的人們常常具有不同的購物傾向,像購買不同運動隊的隊服等。因此,如果廠商將廣告目標鎖定最可能購買某產品的人群,就可能降低廣告費用,并增加總利潤。


    ---- 采用數據挖掘技術可以幫助用戶選定廣告活動的目標標準。網絡出版物有一套變量關系,通過它們可以選定廣告目標。由于在直接的郵購活動中,目標選擇被廣泛使用,因此有許多不同的數據挖掘工具支持目標定位。

    人格化


    ---- 廠商采用人格化的方法選擇發給個人的廣告,以取得最大成果。需要指出的是,本文所談的“廣告”一詞泛指網站提供的任何建議或條款,即使一個簡單的超級鏈接,也可以被認為是廣告。


    ---- 人格化與目標選擇相反。目標選擇功能是優化查看廣告的人的類型,以降低廣告費用。它對尋找那些還沒有訪問廠商站點的人很有作用。但是,在廠商的網站上進行目標選擇是沒有用的,所以,不如將自己的產品展示給訪問網站的人看。


    ---- 一些人格化網站需要廠商給訪問者寫下零售廣告的規則,我們稱之為基于規則的人格化系統。如果網站有歷史信息,廠商可以從第三方購買數據挖掘工具來產生規則。通常,在提供的產品或服務有限的情況下廠商使用基于規則的人格化系統,比如保險業和金融機構。在那些地方,廠商只需寫下少量的規則即可。


    ---- 其他的人格化系統強調提供自動且實時的條款選擇。這些系統常常在提供大量條款的情況下使用,比如服裝、娛樂、辦公設備和消費品等。廠商在面對成千上萬的條款時會變得束手無策,在這種情況下,使用自動的系統更加有效。從大量的目錄中進行人格化是非常復雜的,需要處理大量的數據。


    關聯


    ---- 關聯是指確定在一次會話中最可能被購買或瀏覽的商品,又稱市場分析。如果網站在網頁中將這些條款放在一起,就可以提醒網站訪問者購買或瀏覽可能忘記了的商品。如果在關聯的一組商品中有某一項商品是特價,網站很可能會增加同組中其他商品的購買量。


    ---- 當網站使用靜態的目錄網頁時,也可以使用關聯。在這種情況下,網站會依賴廠商選擇的且是網站所要查看的第一頁目錄網頁,并提供相關的條款。


    知識管理


    ---- 這些系統設法確定和支持自然語言文件中的模式。一個更加確切的詞是“文本分析”。第一步是將單詞和文本與高層的概念相關聯,可以通過使用相關概念標記了的文件來訓練一個系統,并直接完成它。于是,系統為每一個概念建立了一個模式匹配器,當遇到新的概念時,模式匹配器會確定文檔和那個概念的相關程度。


    ---- 上述方法也可用于將未來的文檔分類到已預先定義好的目錄中。網站采用上述方法可為訪問者建立自動的網址索引,新聞網站采用上述方法可以降低分類費用,此外,一些系統也采用上述方法自動總結關鍵問題,尋找相關的參考文檔。


    ---- 知識管理系統可以幫助網站創建自動的查詢系統。比如發給客戶支持E-mail信箱的請求可以被自動分類,從FAQ庫中可以自動發出應答信息等。


    聚類


    ---- 聚類有時也稱分段,是指將具有相同特征的人歸結為一組,將特征平均,以形成一個“特征矢量”或“矢心”。聚類系統通常使網站確定一組數據有多少類,并設法找出最能表示大多數數據的一組聚類。聚類被一些提供商用來直接提供不同訪問者特征的報告。


    估計和預測


    ---- 估計用來猜測未知值,預測用來估計未來值。估計和預測可以使用同樣的算法。


    ---- 估計通常用來填空。如果網站不知道某人的收入,可以通過與收入密切相關的量來估計,然后找到具有類似特征的其他人,利用他們來估計未知者的收入和信用值。


    ---- 預測用來估計一個人重要的未來事項。在個性化應用中,網站可以使用這些值。


    ---- 廠商常收集信息,以了解客戶。即使從不同的方面來分析以往的事件,也可以提供許多有用的信息。這種簡單的收集方法被稱作在線分析處理(OLAP)系統。


    ---- 預測可以和OLAP技術一起總結訪問某網站人群的特點,從而使得廠商對數據進行剖析,找出是哪個條款或網站特征引起了最有價值的客戶的注意力。


    決策樹


    ---- 決策樹本質上是導致做出某項決策的問題或數據點的流程圖。比如購買汽車的決策樹可以從是否需要2000年的新型汽車開始,接著詢問所需車型,然后詢問用戶需要動力型車還是經濟型車等等,直到確定用戶所需要的最好的車為止。決策樹系統設法創建最優路徑,將問題排序,這樣,經過最少的步驟,便可以做出決定。


    ---- 許多產品供應商在自己的產品選擇系統中都制作了決策樹系統。這對帶著特定問題來訪問網站的人來說十分重要。一旦做出某項決定,問題的答案對以后的目標選擇或人格化作用便不大了。

    選擇答案


    ---- 數據挖掘技術并不適合膽怯的人。網站要面對3個主要問題:第一,許多優秀的數據挖掘專家是非常認真的;第二,很少有現成的解決方案;第三,有用的東西是非常昂貴的。


    ---- 對于某個問題,可能有多種數據挖掘算法,但通常只有一個最好的算法。當網站選擇了一個數據挖掘產品時,要弄清楚它的算法是否適合網站想解決的問題。


    ---- 網絡數據挖掘的世界既是地雷陣,同時又是金礦。通過保存與訪問者、訪問內容及交互操作相關的數據,至少可以保證網站以后可以使用它們。不管有多大困難,廠商可以從現在開始考慮評估和集成數據挖掘應用。


    作者:張磊




    PPV課其他精彩文章:


    1、回復“干貨”查看干貨 數據分析師完整知識結構

    2、回復“答案”查看大數據Hadoop面試筆試題及答案

    3、回復“設計”查看這是我見過最逆天的設計,令人驚嘆叫絕

    4、回復“可視化”查看數據可視化專題-數據可視化案例與工具

    5、回復“禪師”查看當禪師遇到一位理科生,后來禪師瘋了??!知識無極限

    6、回復“啤酒”查看數據挖掘關聯注明案例-啤酒喝尿布

    7、回復“棟察”查看大數據棟察——大數據時代的歷史機遇連載

    8、回復“數據咖”查看數據咖——PPV課數據愛好者俱樂部省分會會長招募

    9、回復每日一課查看【每日一課】手機在線視頻集錦



    PPV課大數據ID: ppvke123 (長按可復制)

    大數據人才的搖籃!專注大數據行業人才的培養。每日一課,大數據(EXCEL、SAS、SPSS、Hadoop、CDA)視頻課程。大數據資訊,每日分享!數據咖—PPV課數據愛好者俱樂部!






    我要推薦
    轉發到
    cp彩票