chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

數(shù)據(jù)波動的異常判別方法

數(shù)據(jù)分析與開發(fā) ? 來源:數(shù)據(jù)分析與開發(fā) ? 作者:數(shù)據(jù)分析與開發(fā) ? 2022-03-21 09:32 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

導讀:

先舉個例子,體溫37.4度vs體溫36.5度,只有2.5%的波動,可如果有人在測溫點被發(fā)現(xiàn)體溫37.4度,估計馬上就被拉走做核酸。為啥?因為人們不是怕2.5%的波動,而是怕新冠!

所以:指標波動不可怕,指標波動代表的業(yè)務場景才可怕!脫離業(yè)務場景談指標波動就是耍流氓。

在各種業(yè)務指標中,數(shù)據(jù)往往不是靜止不變的,尤其是當一些核心的指標發(fā)生了變化、波動時,就需要判斷這樣的波動是否屬于異常的情況。那么波動了多大才能算是異常?本文將結合一些實際業(yè)務場景,來說明數(shù)據(jù)波動的異常判別方法。

指標數(shù)據(jù)波動,是各種業(yè)務場景下都會遇見的情況,如每日GMV、每日訂單量等,都是在不斷變化的。大多數(shù)情況下,變化是“正?!钡牟▌?,但有一些波動,源于突然發(fā)生的外部原因或其他未被預期的因素,導致其表現(xiàn)出不同于正常模式的異常狀態(tài)。若能準確地識別異常波動,從而做出波動預警,并及時應對,就能一定程度上保證所關心的業(yè)務場景系統(tǒng)的整體穩(wěn)定性。

1

波動類型

數(shù)據(jù)波動繞不開時間特性。業(yè)務中最常遇到的就是今天的指標是什么樣子?過去幾天是什么趨勢?未來一段時間會怎么樣的變化?數(shù)據(jù)+時間構成了波動的兩個基本屬性。

根據(jù)時間的不同特征,常見的波動類型有:

一次性波動:偶發(fā)的、突然性的波動。一般是由于短期、突發(fā)的事件而影響的指標的波動,比如說某頭部主播在某次直播里上了嚴選的商品、某明星的同款商品在嚴選有庫存等,就會造成訂單量臨時性的超出預期的上漲。

這樣的波動影響時間短,往往幾天的時間便會恢復正常波動。舉個單量的例子,在大促期間都是單量的爆發(fā)期,大促即為一次“偶發(fā)事件”,此時單量的波動即為一次性波動。其具有如下的特征圖:

1e772896-a3e7-11ec-952b-dac502259ad0.png

周期性波動:這種波動和時間節(jié)點強相關,且經(jīng)常以周或者季、年為循環(huán)節(jié)點。如羽絨服秋冬季節(jié)賣的比較好,到了春天銷量就下降,夏天幾乎沒有銷量,且每年幾乎都是這樣。

1e8c86b4-a3e7-11ec-952b-dac502259ad0.png

持續(xù)性波動:從某一時間開始,指標一直呈現(xiàn)上漲/下降趨勢。如從今年4月開始,浴室香氛品類的銷售量一直呈現(xiàn)上漲趨勢,這就屬于持續(xù)性波動。而持續(xù)性波動背后的原因往往是更深刻的,如訂單結構的變化、環(huán)境因素的影響,從而出現(xiàn)了這種持續(xù)性趨勢。

1eac6286-a3e7-11ec-952b-dac502259ad0.png

2

異常識別

那么什么樣的波動可以看作是“異?!蹦??異常識別也可以認為是異常檢測。這里主要從絕對值預警、相對值預警兩個方面來說明。

2.1 絕對值預警

絕對值預警,即是通過設定一定的閾值,當指標低于/高于閾值的時候,就認為此時指標波動為異常,并進行預警。

舉個例子,嚴選作為一個品牌,毛利是其核心的一個指標。對毛利可設置絕對值預警:當毛利為負時,就認為此時是異常的情況,需要探究其發(fā)生的原因,并解釋這種異常的波動。通過對毛利的絕對值預警,嚴選及時發(fā)現(xiàn)了部分用戶利用咖啡機進行薅羊毛、從而導致咖啡機毛利為負的行為,并完善了規(guī)則減少了嚴選的損失。

不僅可以設置低于某一個定值,也可以當指標高于某一定值的時候進行預警,比如在供應鏈中,某個大倉的分倉比高于40%,就會導致倉庫負荷過重從而影響生產(chǎn)。

絕對值預警往往是一次性的波動,這樣的異常判定比較簡單,只需要設定對應的閾值即可。而閾值的設定可以根據(jù)具體的業(yè)務的不同和規(guī)則而變化。

目前在有數(shù)BI中可以直接設置絕對值預警:

1ebe3c2c-a3e7-11ec-952b-dac502259ad0.png

2.2 相對值預警

然而實際業(yè)務中,絕對的閾值只能提供一個“底線”。除了一些非常確定性的業(yè)務場景外,在其他情況下,過高的“底線”就會導致誤報,過低的“底線”可能會漏掉很多需要預警的情況。于是作為絕對值預警的補充,相對值預警可以根據(jù)歷史數(shù)據(jù)及波動情況,來判斷當前的波動是否為異常。

(1)同比環(huán)比

同比環(huán)比是業(yè)務場景中比較常用的一種異常檢測方式,利用當前時間周期與前一個時間周期(同比)和過去的同一個時間周期(同比)比較,超過一定的閾值即認為該點是異常的。實際中常用周/日環(huán)比、年同比來進行比較。

1ed4b75e-a3e7-11ec-952b-dac502259ad0.png

如上圖,(1)的數(shù)據(jù)為所要判斷的值。當(1)的數(shù)值為百分比時,如來源于主站訂單的比例,則同比環(huán)比一般為:

環(huán)比:(1)-(2) pt

同比:(1)-(3) pt

而當(1)的數(shù)值為非百分比時,如來源于主站的訂單數(shù)量時:

環(huán)比:((1)-(2))/(2) %

同比:((1)-(3))/(3) %

根據(jù)值得正負來判斷是上漲還是下降。通過與上周/昨天和去年同期的數(shù)據(jù)表現(xiàn)進行對比,計算波動值,再將波動值和閾值進行對比,從而得到當前時刻數(shù)值是否在正常的波動中(閾值的設定方法在后面介紹)。

如在上述的周期性波動的例子中,在11月環(huán)比波動都會較大,這時設置同比波動預警會比設置環(huán)比波動預警更為合理。于是在波動判別中,需要注意業(yè)務實際背景。

1ee2643a-a3e7-11ec-952b-dac502259ad0.png

(2)周期平滑

同比/環(huán)比僅使用1~2個時間點的數(shù)據(jù),容易受到數(shù)據(jù)本身質量的影響:當歷史同期或上個周期的數(shù)據(jù)本身就是“異常”的時候,用“異常”的數(shù)據(jù)來判斷是否“異?!本筒惶线m。


一個很自然的想法就是將所參考的時間點拓展,利用多個時間點的周期數(shù)據(jù)進行平滑,得到當前時刻指標的對比值。如:

1f0c002e-a3e7-11ec-952b-dac502259ad0.png

則比較值:

1f202d74-a3e7-11ec-952b-dac502259ad0.png

1f2ff786-a3e7-11ec-952b-dac502259ad0.png

其中1f4073e0-a3e7-11ec-952b-dac502259ad0.png為平滑系數(shù),當1f4073e0-a3e7-11ec-952b-dac502259ad0.png都為相同的值的時候,此時即為平均值。也可越靠近所研究時間點,賦予更高的平滑系數(shù)。所選的時間點可以根據(jù)業(yè)務需求自行定義。

利用比較值b和所研究的值(1)對比,超過一定的閾值即可認為是“異?!保洳▌有枰P注。

(3)假設檢驗(3σ原則)前面提到比較值需要和所研究的值進行對比,通過閾值來判斷波動是否異常。閾值的定義方法和預警方法類似,分為絕對值閾值和自適應(相對值)閾值。

絕對值閾值:根據(jù)歷史正常情況下的數(shù)據(jù)波動情況,計算比較值和所研究的值之間的差異情況,從而定義一個上/下限值,即為閾值。

自適應閾值:根據(jù)數(shù)據(jù)波動情況而變化的閾值,其理論基礎為假設檢驗和大數(shù)定律,來判斷是否為異常。

不妨假設當前時間點的指標數(shù)據(jù)為b,歷史用于對比的指標數(shù)據(jù)為:

1f605c50-a3e7-11ec-952b-dac502259ad0.png

其中:

1f713250-a3e7-11ec-952b-dac502259ad0.png

分別表示對比數(shù)據(jù)的平均水平和波動情況。則根據(jù)大數(shù)定律和假設檢驗,當

1f80e5f6-a3e7-11ec-952b-dac502259ad0.png

即可認為當前時間點的指標數(shù)據(jù)為異常波動。其中z為置信水平所對應的值,如當z=1.96時,置信水平為95%,即可認為在100次的波動下,有95次是在正常范圍內波動的(置信水平及其對應的值可參考標準正態(tài)分布表)。當z=2.58,置信水平為99%,即為著名的“3σ原則”。

3.3 其他方法

除了以上所介紹的一些常用的、便捷的方法外,也可以通過時間序列、算法模型等來判斷異常值。異常值判別是比較常見的研究場景,但由于實操的復雜性,這里僅做一個介紹。

(1)時間序列業(yè)務上的數(shù)據(jù)往往具有時間屬性,如單量隨時間的變化、GMV隨時間的變化等。那么在時間序列中,通過異常檢測的方法,也可以對當前波動是否異常做出判斷。常用的方法有:

平均法:移動平均、加權移動平均、指數(shù)加權移動平均、累加移動平均等。和上述的“周期平均”的方法類似,可自定義窗口大小和加權系數(shù)。

ARIMA模型:自回歸移動平均模型(ARIMA)是時間序列中一個基礎模型,利用過去的幾個數(shù)據(jù)點來生成下一個數(shù)據(jù)點的預測,并在過程中加入一些隨機變量。使用該模型需要確定ARIMA所需的參數(shù),即需要對數(shù)據(jù)點進行擬合。利用擬合后的方程確定下一個時間點的數(shù)據(jù)的區(qū)間,從而判斷當前波動是否為異常。

此外還有ESD、S-ESD、S-H-ESD、STL分解等算法,來檢測異常點。

(2)算法模型

基于分類方法:根據(jù)歷史已有的數(shù)據(jù),將其分為正常、異常的兩類,之后產(chǎn)生的新的觀測值,就可以使用分類的方法去判斷新的觀測值是否為異常。如使用距離判別的K-means算法、SVM算法等。

神經(jīng)網(wǎng)絡方法:可以對具有時間特性進行建模的LSTM算法、用卷積神經(jīng)網(wǎng)絡來做時間序列分類的Time Le-Net,以及各種的監(jiān)督式模型,都是能夠對異常數(shù)據(jù)進行識別的算法。

3

總結

在實際應用中,還需要結合業(yè)務背景來進行方法的選擇。一般來說,判斷異常的主要方法有:

1f942c24-a3e7-11ec-952b-dac502259ad0.png

- EOF -

審核編輯 :李倩

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴

原文標題:數(shù)據(jù)分析終極一問:指標波動多大才算是異常?

文章出處:【微信號:DBDevs,微信公眾號:數(shù)據(jù)分析與開發(fā)】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    電源與負載的判別方法是什么

    判別方法根據(jù)U、I的實際方向判別電源: U、I實際方向相反,即電流從"+” 端流出。( 發(fā)出功率)負載: U、I實際方向相同,即電流從"-”端流出。( 吸收功率)根據(jù)U、I
    發(fā)表于 12-27 07:22

    單調函數(shù)的列表判別方法

    單調函數(shù)的列表判別方法
    發(fā)表于 05-07 10:42 ?25次下載

    多傳感數(shù)據(jù)判別分析方法

    在多傳感數(shù)據(jù)的處理過程中,有時要利用多傳感器對某一對象進行不同方面觀測,針對所獲得數(shù)據(jù)研究觀察對象屬性。此類問題的本質是判別對象的歸屬類型,就此問題利用多元統(tǒng)計理
    發(fā)表于 07-01 10:34 ?9次下載

    電流并聯(lián)負反饋電路及判別方法

    電流并聯(lián)負反饋電路及判別方法 負反饋
    發(fā)表于 09-25 16:54 ?1.3w次閱讀
    電流并聯(lián)負反饋電路及<b class='flag-5'>判別</b><b class='flag-5'>方法</b>

    電壓并聯(lián)負反饋電路及判別方法

    電壓并聯(lián)負反饋電路及判別方法 負反饋
    發(fā)表于 09-25 16:56 ?2.3w次閱讀
    電壓并聯(lián)負反饋電路及<b class='flag-5'>判別</b><b class='flag-5'>方法</b>

    電流串聯(lián)負反饋電路及判別方法

    電流串聯(lián)負反饋電路及判別方法
    發(fā)表于 09-25 16:59 ?1.8w次閱讀
    電流串聯(lián)負反饋電路及<b class='flag-5'>判別</b><b class='flag-5'>方法</b>

    判別電容器好壞的簡易方法

    判別電容器好壞的簡易方法
    發(fā)表于 04-21 11:08 ?2389次閱讀
    <b class='flag-5'>判別</b>電容器好壞的簡易<b class='flag-5'>方法</b>

    電壓波動和閃變的檢測與控制方法

    電壓波動和閃變的檢測與控制方法 由沖擊性功率負荷引起的電壓波動與閃變是電能質量問題的重要方面之一。本文論述了電壓波動和閃變的常用檢
    發(fā)表于 07-11 16:46 ?2670次閱讀
    電壓<b class='flag-5'>波動</b>和閃變的檢測與控制<b class='flag-5'>方法</b>

    判別晶體管電極的方法

    判別晶體管電極的方法
    發(fā)表于 07-31 17:38 ?816次閱讀
    <b class='flag-5'>判別</b>晶體管電極的<b class='flag-5'>方法</b>

    基于間距的降維方法_間距判別投影

    個基礎上,MDP重新定義類間離散度矩陣,同時,使用全局的方法構造類內離散度矩陣;然后,MDP借鑒判別分析思想建立衡量類間距的準則,并通過類間距最大化增強樣本在投影空間中的可分性。對MDP在人臉表情數(shù)據(jù)庫JAFFE和Extende
    發(fā)表于 12-03 11:20 ?1次下載

    基于核Fisher判別方法的數(shù)字通信技術研究

    基于數(shù)據(jù)的機器學習是現(xiàn)代智能技術中的重要方面,它是從觀測數(shù)據(jù)出發(fā)尋找規(guī)律,并利用這些規(guī)律對不方便直接觀測的數(shù)據(jù)進行預測。核Fisher判別方法
    發(fā)表于 01-02 11:37 ?0次下載

    新穎的判別性特征選擇方法

    作為數(shù)據(jù)預處理的一種常用的手段,特征選擇不僅能夠提高分類器的分類性能,而且能增加對分類結果的解釋性。針對基于稀疏學習的特征選擇方法有時會忽略一些有用的判別信息而影響分類性能的問題,提出了一種新的
    發(fā)表于 01-02 17:25 ?0次下載

    可動態(tài)判別電網(wǎng)異常負荷的CNN閥值模型

    為提高在負荷波動性較大場景下對異常負荷判別的適應性,提出一種適用于電網(wǎng)異常負荷動態(tài)判別的卷積神經(jīng)網(wǎng)絡閾值模型。利用時序歷史負荷
    發(fā)表于 04-02 12:37 ?12次下載
    可動態(tài)<b class='flag-5'>判別</b>電網(wǎng)<b class='flag-5'>異常</b>負荷的CNN閥值模型

    基于生成對抗網(wǎng)絡的異常檢測方法

    取特征,所以訓練數(shù)據(jù)集中就不需要異常樣本。此系統(tǒng)的異常檢測結果由樣本的最終得分來判別,其中異常分數(shù)由表觀損失和潛在損失組成。本文
    發(fā)表于 04-06 16:06 ?4034次閱讀

    柔性測斜儀數(shù)據(jù)異常故障分析及解決方法

    ?在土木工程、地質勘探和結構監(jiān)測等領域,柔性測斜儀作為一種重要的測量工具,被廣泛應用于深層水平位移的監(jiān)測中。然而,在實際使用過程中,柔性測斜儀有時會出現(xiàn)數(shù)據(jù)異常故障,如測量數(shù)據(jù)波動過大
    的頭像 發(fā)表于 11-20 14:37 ?1254次閱讀
    柔性測斜儀<b class='flag-5'>數(shù)據(jù)</b><b class='flag-5'>異常</b>故障分析及解決<b class='flag-5'>方法</b>