-
當(dāng)前位置:首頁 > 創(chuàng)意學(xué)院 > 技術(shù) > 專題列表 > 正文
一面數(shù)據(jù)數(shù)據(jù)分析師
大家好!今天讓創(chuàng)意嶺的小編來大家介紹下關(guān)于一面數(shù)據(jù)數(shù)據(jù)分析師的問題,以下是小編對此問題的歸納整理,讓我們一起來看看吧。
開始之前先推薦一個非常厲害的Ai人工智能工具,一鍵生成原創(chuàng)文章、方案、文案、工作計劃、工作報告、論文、代碼、作文、做題和對話答疑等等
只需要輸入關(guān)鍵詞,就能返回你想要的內(nèi)容,越精準(zhǔn),寫出的就越詳細(xì),有微信小程序端、在線網(wǎng)頁版、PC客戶端
官網(wǎng):https://ai.de1919.com。
創(chuàng)意嶺作為行業(yè)內(nèi)優(yōu)秀的企業(yè),服務(wù)客戶遍布全球各地,如需了解SEO相關(guān)業(yè)務(wù)請撥打電話175-8598-2043,或添加微信:1454722008
本文目錄:
一、數(shù)據(jù)分析師的主要工作內(nèi)容有哪些?
1、制作報告
作為一名分析師,需要花了大量時間來制作內(nèi)部報告和對外客戶報告。這些報告為管理層提供趨勢以及公司需要改進(jìn)見解。
編寫報告并不是將數(shù)字匯總發(fā)送給領(lǐng)導(dǎo)那么簡單。數(shù)據(jù)分析師需要了解如何用數(shù)據(jù)創(chuàng)建敘述,為了保持價值,數(shù)據(jù)分析報告要一目了然,簡單易懂的方式展現(xiàn)答案和見解,因為決策者或者上級領(lǐng)導(dǎo)不一定也是數(shù)據(jù)分析師。
2、發(fā)現(xiàn)數(shù)據(jù)重點
為了生成那些有意義的報告,數(shù)據(jù)分析師首先必須能夠看到數(shù)據(jù)中的重要部分和模式。定期遞增報告(例如每周,每月或每季度)很重要,因為它有助于分析師注意到重要的部分是什么。
3、收集數(shù)據(jù)并設(shè)置基礎(chǔ)設(shè)施
也許分析師工作中最技術(shù)性的方面是收集數(shù)據(jù)本身。但通常這也意味著數(shù)據(jù)分析師要與網(wǎng)絡(luò)開發(fā)人員合作并優(yōu)化數(shù)據(jù)收集。
二、數(shù)據(jù)分析師是做什么的?
數(shù)據(jù)分析師主要工作是在本行業(yè)內(nèi)將各種數(shù)據(jù)進(jìn)行搜集、整理、分析,然后根據(jù)這些數(shù)據(jù)進(jìn)行分析判斷,在分析數(shù)據(jù)后對行業(yè)發(fā)展、行業(yè)知識規(guī)則等等進(jìn)行預(yù)測和挖掘。數(shù)據(jù)分析師是數(shù)據(jù)師其中的一種,另一種是數(shù)據(jù)挖掘工程師,兩者都是專業(yè)型人才。
擴(kuò)展資料
數(shù)據(jù)分析師和數(shù)據(jù)挖掘工程師的區(qū)別
1、“數(shù)據(jù)分析”的重點是觀察數(shù)據(jù),而“數(shù)據(jù)挖掘”的重點是從數(shù)據(jù)中發(fā)現(xiàn)“知識規(guī)則”。
2、“數(shù)據(jù)分析”得出的結(jié)論是人的智能活動結(jié)果,而“數(shù)據(jù)挖掘”得出的結(jié)論是機(jī)器從學(xué)習(xí)集(或訓(xùn)練集、樣本集)發(fā)現(xiàn)的知識規(guī)則。
3、“數(shù)據(jù)分析”得出結(jié)論的運用是人的智力活動,而“數(shù)據(jù)挖掘”發(fā)現(xiàn)的知識規(guī)則,可以直接應(yīng)用到預(yù)測。
4、“數(shù)據(jù)分析”不能建立數(shù)學(xué)模型,需要人工建模,而“數(shù)據(jù)挖掘”直接完成了數(shù)學(xué)建模。
5、相對而言,數(shù)據(jù)挖掘工程師對統(tǒng)計學(xué),機(jī)器學(xué)習(xí)等技能的要求比數(shù)據(jù)分析師高得多。
6、很多情況下,數(shù)據(jù)挖掘工程師同時兼任數(shù)據(jù)分析師的角色。
參考資料來源:百度百科--數(shù)據(jù)分析師
參考資料來源:百度百科--數(shù)據(jù)師
三、數(shù)據(jù)分析師—技術(shù)面試
數(shù)據(jù)分析師—技術(shù)面試
三月份開始找實習(xí),到現(xiàn)在已經(jīng)有半年的時間了,在這半年的時間中,該經(jīng)歷的基本上都已經(jīng)經(jīng)歷,春招實習(xí)時候,拿到了7個offer,校招時候,成功的拿下一份心儀的工作,結(jié)束了我的秋招旅程。對于面試,技術(shù)層面即算法、軟件等等,業(yè)務(wù)層面就是忽悠(畢竟沒有做過完整的項目),但是也要有自己的邏輯和思考方式(這方面我也有很大的欠缺),下面將自己的面試經(jīng)歷梳理為技術(shù)層面和業(yè)務(wù)層面,來分享給大家。
技術(shù)面試
一、軟件
1. R語言的文件讀取:csv文件的讀取方式(read.csv),txt文件的讀取方式(read.table)
2. R語言中一些小函數(shù)的作用
①apply函數(shù):1代表調(diào)用每一行的函數(shù),0代表調(diào)用每一列的函數(shù)(注意其用法和Python的區(qū)別)
②runif函數(shù):生成均勻分布的隨機(jī)數(shù)
③sample(,return = TRUE):隨機(jī)有放回的抽樣
3. Python中l(wèi)ist列表和元組的最大區(qū)別:元組的值不可以改變,但是列表的值是可以改變的。
4.數(shù)據(jù)庫中表的連接方式
①內(nèi)部連接:inner join
②外部連接:outer join
③左連接:left join
注:對于數(shù)據(jù)分析,建議大家無論是R,Python,sql都有自己一套流程化的體系,這一體系可以很好的幫助你解決實際中的問題。
二、算法
對于算法(分類,聚類,關(guān)聯(lián)等),更是建議大家有一套流程化的體系,在面試算法的時候,是一個依次遞進(jìn)的過程,不要給自己挖坑,相反,更要將自己的優(yōu)勢發(fā)揮的淋漓盡致,把自己會的東西全部釋放出來。
下面我將自己的所有面試串聯(lián)起來,給大家分享一下,僅供參考。
面試官:小張同學(xué),你好,看了你的簡歷,對相關(guān)算法還是略懂一些,下面開始我們的面試,有這么一個場景,在一個樣本集中,其中有100個樣本屬于A,9900個樣本屬于B,我想用決策樹算法來實現(xiàn)對AB樣本進(jìn)行區(qū)分,這時會遇到什么問題:
小張:欠擬合現(xiàn)象,因為在這個樣本集中,AB樣本屬于嚴(yán)重失衡狀態(tài),在建立決策樹算法的過程中,模型會更多的偏倚到B樣本的性質(zhì),對A樣本的性質(zhì)訓(xùn)練較差,不能很好的反映樣本集的特征。
面試官:看你決策樹應(yīng)該掌握的不錯,你說一下自己對于決策樹算法的理解?
小張:決策樹算法,無論是哪種,其目的都是為了讓模型的不確定性降低的越快越好,基于其評價指標(biāo)的不同,主要是ID3算法,C4.5算法和CART算法,其中ID3算法的評價指標(biāo)是信息增益,C4.5算法的評價指標(biāo)是信息增益率,CART算法的評價指標(biāo)是基尼系數(shù)。
面試官:信息增益,好的,這里面有一個信息論的概念,你應(yīng)該知道的吧,敘述一下
小張:香農(nóng)熵,隨機(jī)變量不確定性的度量。利用ID3算法,每一次對決策樹進(jìn)行分叉選取屬性的時候,我們會選取信息增益最高的屬性來作為分裂屬性,只有這樣,決策樹的不純度才會降低的越快。
面試官:OK,你也知道,在決策樹無限分叉的過程中,會出現(xiàn)一種現(xiàn)象,叫過擬合,和上面說過的欠擬合是不一樣的,你說一下過擬合出現(xiàn)的原因以及我們用什么方法來防止過擬合的產(chǎn)生?
小張:對訓(xùn)練數(shù)據(jù)預(yù)測效果很好,但是測試數(shù)據(jù)預(yù)測效果較差,則稱出現(xiàn)了過擬合現(xiàn)象。對于過擬合現(xiàn)象產(chǎn)生的原因,有以下幾個方面,第一:在決策樹構(gòu)建的過程中,對決策樹的生長沒有進(jìn)行合理的限制(剪枝);第二:在建模過程中使用了較多的輸出變量,變量較多也容易產(chǎn)生過擬合;第三:樣本中有一些噪聲數(shù)據(jù),噪聲數(shù)據(jù)對決策樹的構(gòu)建的干擾很多,沒有對噪聲數(shù)據(jù)進(jìn)行有效的剔除。對于過擬合現(xiàn)象的預(yù)防措施,有以下一些方法,第一:選擇合理的參數(shù)進(jìn)行剪枝,可以分為預(yù)剪枝后剪枝,我們一般用后剪枝的方法來做;第二:K-folds交叉驗證,將訓(xùn)練集分為K份,然后進(jìn)行K次的交叉驗證,每次使用K-1份作為訓(xùn)練樣本數(shù)據(jù)集,另外的一份作為測試集合;第三:減少特征,計算每一個特征和響應(yīng)變量的相關(guān)性,常見的為皮爾遜相關(guān)系數(shù),將相關(guān)性較小的變量剔除,當(dāng)然還有一些其他的方法來進(jìn)行特征篩選,比如基于決策樹的特征篩選,通過正則化的方式來進(jìn)行特征選取等。
面試官:你剛剛前面有提到預(yù)剪枝和后剪枝,當(dāng)然預(yù)剪枝就是在決策樹生成初期就已經(jīng)設(shè)置了決策樹的參數(shù),后剪枝是在決策樹完全建立之后再返回去對決策樹進(jìn)行剪枝,你能否說一下剪枝過程中可以參考的某些參數(shù)?
小張:剪枝分為預(yù)剪枝和后剪枝,參數(shù)有很多,在R和Python中都有專門的參數(shù)來進(jìn)行設(shè)置,下面我以Python中的參數(shù)來進(jìn)行敘述,max_depth(樹的高度),min_samples_split(葉子結(jié)點的數(shù)目),max_leaf_nodes(最大葉子節(jié)點數(shù)),min_impurity_split(限制不純度),當(dāng)然R語言里面的rpart包也可以很好的處理這個問題。
面試官:對了,你剛剛還說到了用決策樹來進(jìn)行特征的篩選,現(xiàn)在我們就以ID3算法為例,來說一下決策樹算法對特征的篩選?
小張:對于離散變量,計算每一個變量的信息增益,選擇信息增益最大的屬性來作為結(jié)點的分裂屬性;對于連續(xù)變量,首先將變量的值進(jìn)行升序排列,每對相鄰值的中點作為可能的分離點,對于每一個劃分,選擇具有最小期望信息要求的點作為分裂點,來進(jìn)行后續(xù)的決策數(shù)的分裂。
面試官:你剛剛還說到了正則化,確實可以對過擬合現(xiàn)象來進(jìn)行很好的調(diào)整,基于你自己的理解,來說一下正則化?
小張:這一塊的知識掌握的不是很好,我簡單說一下自己對這一塊的了解。以二維情況為例,在L1正則化中,懲罰項是絕對值之和,因此在坐標(biāo)軸上會出現(xiàn)一個矩形,但是L2正則化的懲罰項是圓形,因此在L1正則化中增大了系數(shù)為0的機(jī)會,這樣具有稀疏解的特性,在L2正則化中,由于系數(shù)為0的機(jī)率大大減小,因此不具有稀疏解的特性。但是L1沒有選到的特性不代表不重要,因此L1和L2正則化要結(jié)合起來使用。
面試官:還可以吧!正則化就是在目標(biāo)函數(shù)后面加上了懲罰項,你也可以將后面的懲罰項理解為范數(shù)。分類算法有很多,邏輯回歸算法也是我們經(jīng)常用到的算法,剛剛主要討論的是決策樹算法,現(xiàn)在我們簡單聊一下不同分類算法之間的區(qū)別吧!討論一下決策樹算法和邏輯回歸算法之間的區(qū)別?
小張:分為以下幾個方面:第一,邏輯回歸著眼于對整體數(shù)據(jù)的擬合,在整體結(jié)構(gòu)上優(yōu)于決策樹;但是決策樹采用分割的方法,深入到數(shù)據(jù)內(nèi)部,對局部結(jié)構(gòu)的分析是優(yōu)于邏輯回歸;第二,邏輯回歸對線性問題把握較好,因此我們在建立分類算法的時候也是優(yōu)先選擇邏輯回歸算法,決策樹對非線性問題的把握較好;第三,從本質(zhì)來考慮,決策樹算法假設(shè)每一次決策邊界都是和特征相互平行或垂直的,因此會將特征空間劃分為矩形,因而決策樹會產(chǎn)生復(fù)雜的方程式,這樣會造成過擬合現(xiàn)象;邏輯回歸只是一條平滑的邊界曲線,不容易出現(xiàn)過擬合現(xiàn)象。
面試官: 下面呢我們來聊一下模型的評估,算法進(jìn)行模型評估的過程中,常用的一些指標(biāo)都有哪些,精度啊?召回率啊?ROC曲線?。窟@些指標(biāo)的具體含義是什么?
小張:精度(precision),精確性的度量,表示標(biāo)記為正例的元組占實際為正例的比例;召回率(recall),完全性的度量,表示為實際為正例的元組被正確標(biāo)記的比例;ROC 曲線的橫坐標(biāo)為假陽性,縱坐標(biāo)為真陽性,值越大,表示分類效果越好。
(to be honest,這個問題第一次我跪了,雖然說是記憶一下肯定沒問題,但是當(dāng)時面試的那個時候大腦是一片空白)
面試官:聚類分析你懂得的吧!在我們一些分析中,它也是我們經(jīng)常用到的一類算法,下面你介紹一下K-means算法吧!
小張:對于K-means算法,可以分為以下幾個步驟:第一,從數(shù)據(jù)點中隨機(jī)抽取K個數(shù)據(jù)點作為初始的聚類中心;第二:計算每個點到這K個中心點的距離,并把每個點分到距離其最近的中心中去;第三:求取各個類的均值,將這些均值作為新的類中心;第四:重復(fù)進(jìn)行步驟二三過程,直至算法結(jié)束,算法結(jié)束有兩種,一種是迭代的次數(shù)達(dá)到要求,一種是達(dá)到了某種精度。
后記
面試的水很深,在數(shù)據(jù)分析技術(shù)面的時候問到的東西當(dāng)然遠(yuǎn)遠(yuǎn)不止這些,因此在我們的腦子里面一定要形成一個完整的體系,無論是對某一門編程語言,還是對數(shù)據(jù)挖掘算法,在工作中都需要形成你的閉環(huán),在面試中更是需要你形成閉環(huán),如何更完美的包裝自己,自己好好總結(jié)吧!
附錄
R語言數(shù)據(jù)處理體系:數(shù)據(jù)簡單預(yù)處理個人總結(jié)
1、數(shù)據(jù)簡單查看
⑴查看數(shù)據(jù)的維度:dim
⑵查看數(shù)據(jù)的屬性:colnames
⑶查看數(shù)據(jù)類型:str
注:有一些算法,比如說組合算法,要求分類變量為因子型變量;層次聚類,要求是一個距離矩陣,可以通過str函數(shù)進(jìn)行查看
⑷查看前幾行數(shù)據(jù):head
注:可以初步觀察數(shù)據(jù)是不是有量綱的差異,會后續(xù)的分析做準(zhǔn)備
⑸查看因子型變量的占比情況:table/prop.table
注:可以為后續(xù)數(shù)據(jù)抽樣做準(zhǔn)備,看是否產(chǎn)生類不平衡的問題
2、數(shù)據(jù)缺失值處理
⑴summary函數(shù)進(jìn)行簡單的查看
⑵利用mice和VIM包查看數(shù)據(jù)缺失值情況,代表性函數(shù): md.pattern、aggr
⑶caret包中的preProcess函數(shù),可以進(jìn)行缺失值的插補(bǔ)工作,有knn、袋裝、中位數(shù)方法
⑷missForest包中的missForest函數(shù),可以用隨機(jī)森林的方法進(jìn)行插補(bǔ)
⑸可以用回歸分析的方法完成缺失值插補(bǔ)工作
⑹如果樣本量很多,缺失的數(shù)據(jù)很少,可以選擇直接剔除的方法
3、數(shù)據(jù)異常值處理
⑴summary函數(shù)進(jìn)行簡單的查看,比如:最大值、最小值等
⑵boxplot函數(shù)繪制箱線圖
4、數(shù)據(jù)抽樣
⑴sample函數(shù)進(jìn)行隨機(jī)抽樣
⑵caret包中的createDataPartition()函數(shù)對訓(xùn)練樣本和測試樣本進(jìn)行等比例抽樣
⑶caret包中的createFold函數(shù)根據(jù)某一個指標(biāo)進(jìn)行等比例抽樣
⑷DMwR包中SMOTE函數(shù)可以解決處理不平衡分類問題
注:比如決策樹算法中,如果樣本嚴(yán)重不平衡,那么模型會出現(xiàn)欠擬合現(xiàn)象
5、變量的多重共線性處理
⑴結(jié)合業(yè)務(wù),先刪除那些和分析無關(guān)的指標(biāo)
⑵corrgram包的corrgram函數(shù)查看相關(guān)系數(shù)矩陣
⑶caret包中的findCorrelation函數(shù)查看多重共線性
⑷如果相關(guān)性太大,可以考慮刪除變量;如果變量比較重要,可以考慮主成分/因子分析進(jìn)行降維處理
四、數(shù)據(jù)分析師是什么崗位
數(shù)據(jù)分析師指的是不同行業(yè)中,專門從事行業(yè)數(shù)據(jù)搜集、整理、分析,并依據(jù)數(shù)據(jù)做出行業(yè)研究、評估和預(yù)測的專業(yè)人員。數(shù)據(jù)分析師在企業(yè)中的主要作用是支持與指導(dǎo)業(yè)務(wù)發(fā)展。
與業(yè)務(wù)部門一起工作,以確定改進(jìn)業(yè)務(wù)操作和流程的機(jī)會。
參與業(yè)務(wù)系統(tǒng)或IT系統(tǒng)的設(shè)計或修改。
與業(yè)務(wù)涉眾和主題專家進(jìn)行交互,以了解他們的問題和需求。
收集、記錄和分析業(yè)務(wù)需求。
解決業(yè)務(wù)問題,并根據(jù)需要設(shè)計技術(shù)解決方案。
與系統(tǒng)架構(gòu)師和開發(fā)人員進(jìn)行交互,以確保系統(tǒng)得到正確實現(xiàn)。
隨著我國經(jīng)濟(jì)決策逐漸由盲目的“經(jīng)驗決策”轉(zhuǎn)向“數(shù)據(jù)決策”,項目數(shù)據(jù)分析成為戰(zhàn)略決策、投資決策必備的科學(xué)方法,以數(shù)據(jù)科學(xué)為依據(jù),做正確的理性決策。越來越多的政府機(jī)關(guān)、企事業(yè)單位將選擇擁有數(shù)據(jù)分析師資質(zhì)的專業(yè)人士為他們的項目做出科學(xué)、合理的分析、以便正確決策;越來越多的風(fēng)險投資機(jī)構(gòu)把數(shù)據(jù)分析師所出具的數(shù)據(jù)分析報告作為其判斷項目是否可行及是否值得投資的重要依據(jù);越來越多的高等院校和教育機(jī)構(gòu)把數(shù)據(jù)分析師課程作為其中高管理層及決策層培訓(xùn)計劃的重要內(nèi)容;越來越多的有志之士把數(shù)據(jù)分析師培訓(xùn)內(nèi)容作為其職業(yè)生涯發(fā)展中必備的知識體系。
以上就是關(guān)于一面數(shù)據(jù)數(shù)據(jù)分析師相關(guān)問題的回答。希望能幫到你,如有更多相關(guān)問題,您也可以聯(lián)系我們的客服進(jìn)行咨詢,客服也會為您講解更多精彩的知識和內(nèi)容。
推薦閱讀:
圖案設(shè)計作品欣賞(圖案設(shè)計作品欣賞怎么寫)_1