程序代碼片段是這樣的:
maxPage := *flagMaxPage
if maxPage > 0 {
jobs := make(chan int, maxPage)
results := make(chan []map[string]string, maxPage)
// 招聘10個(gè)工人,讓他們工作(待命),每個(gè)工人會(huì)從jobs管道里獲得任務(wù),工人干活,把結(jié)果放到results管道
for w := 1; w <= 10; w++ {
go doWork(jobs, results)
}
//分配任務(wù)
for j := 1; j <= maxPage; j++ {
jobs <- j
}
close(jobs)
//db connect
db, err := mysqlUtil.CreateReadDb()
defer db.Close()
if err != nil {
log.Fatal("connect db err ", err)
fmt.Println("connect db err ", err)
}
//處理結(jié)果
for j := 1; j <= maxPage; j++ {
data := <-results
//這里做查詢和入庫操作
doDb(db, data)
fmt.Println(len(data))
}
close(results)
fmt.Println("all done...")
}
doDb函數(shù)如下:
func doDb(db *sql.DB,data []map[string]string) {
if data != nil {
for _, v := range data {
if v == nil {
continue
}
if v["title"] == "" {
continue
}
if v["url"] == "" {
continue
}
//寫入數(shù)據(jù)庫
sqlStr := `select * from film where title_md5 ='` + Md5(v["title"]) + `'`
rows, err := db.Query(sqlStr)
if err != nil {
fmt.Println("query err1 ", err)
continue
}
existData, err := mysqlUtil.GetRow(rows)
if err != nil {
fmt.Println("query err2 ", err)
continue
}
//如果為空,就插入數(shù)據(jù)
if len(existData) == 0 {
score := v["score"]
scoreVal, err := strconv.ParseFloat(score, 64)
if err != nil {
fmt.Println("insert data parse score error ", err)
continue
}
f1 := decimal.NewFromFloat(scoreVal)
f2 := decimal.NewFromFloat(100)
aaa := f1.Mul(f2).IntPart()
insertScore := strconv.Itoa(int(aaa))
titleMd5 := Md5(v["title"])
sqlInsert := `insert into film(title, img, uptime, url, score, title_md5) values ('` + v["title"] + `', '` + v["img"] + `', '` + v["uptime"] +
`','` + v["url"] + `','` + insertScore + `','` + titleMd5 + `')`
db.Query(sqlInsert)
}
}
}
}
測(cè)試了一下,大概跑20個(gè)協(xié)程,doDb這個(gè)函數(shù)的第二個(gè)參數(shù)一次最多15條數(shù)據(jù),在執(zhí)行到16個(gè)協(xié)程的結(jié)果后,就會(huì)在fmt.Println("query err1 ", err)這個(gè)地方報(bào)大量 :
query err1 dial tcp: lookup xxxx.com: no such host
在包這個(gè)錯(cuò)誤的時(shí)候,我手動(dòng)執(zhí)行
nslookup xxxx.com
解析是正常的。請(qǐng)問一下,這是為啥呢?doDb這個(gè)函數(shù)是一個(gè)一個(gè)處理result的,一共才20*15條記錄,為啥會(huì)出現(xiàn)這種問題呢?
在https://stackoverflow.com/que...。 在mac里執(zhí)行ulimit -u 發(fā)現(xiàn)只有256,當(dāng)操作300條數(shù)據(jù)的時(shí)候,大于這個(gè)值,所以會(huì)出現(xiàn)上面的問題。執(zhí)行ulimit -n 1000,再次操作300條數(shù)據(jù),就不會(huì)出現(xiàn)這種問題了。
北大青鳥APTECH成立于1999年。依托北京大學(xué)優(yōu)質(zhì)雄厚的教育資源和背景,秉承“教育改變生活”的發(fā)展理念,致力于培養(yǎng)中國IT技能型緊缺人才,是大數(shù)據(jù)專業(yè)的國家
北大青鳥中博軟件學(xué)院創(chuàng)立于2003年,作為華東區(qū)著名互聯(lián)網(wǎng)學(xué)院和江蘇省首批服務(wù)外包人才培訓(xùn)基地,中博成功培育了近30000名軟件工程師走向高薪崗位,合作企業(yè)超4
中公教育集團(tuán)創(chuàng)建于1999年,經(jīng)過二十年潛心發(fā)展,已由一家北大畢業(yè)生自主創(chuàng)業(yè)的信息技術(shù)與教育服務(wù)機(jī)構(gòu),發(fā)展為教育服務(wù)業(yè)的綜合性企業(yè)集團(tuán),成為集合面授教學(xué)培訓(xùn)、網(wǎng)
達(dá)內(nèi)教育集團(tuán)成立于2002年,是一家由留學(xué)海歸創(chuàng)辦的高端職業(yè)教育培訓(xùn)機(jī)構(gòu),是中國一站式人才培養(yǎng)平臺(tái)、一站式人才輸送平臺(tái)。2014年4月3日在美國成功上市,融資1
曾工作于聯(lián)想擔(dān)任系統(tǒng)開發(fā)工程師,曾在博彥科技股份有限公司擔(dān)任項(xiàng)目經(jīng)理從事移動(dòng)互聯(lián)網(wǎng)管理及研發(fā)工作,曾創(chuàng)辦藍(lán)懿科技有限責(zé)任公司從事總經(jīng)理職務(wù)負(fù)責(zé)iOS教學(xué)及管理工作。
浪潮集團(tuán)項(xiàng)目經(jīng)理。精通Java與.NET 技術(shù), 熟練的跨平臺(tái)面向?qū)ο箝_發(fā)經(jīng)驗(yàn),技術(shù)功底深厚。 授課風(fēng)格 授課風(fēng)格清新自然、條理清晰、主次分明、重點(diǎn)難點(diǎn)突出、引人入勝。
精通HTML5和CSS3;Javascript及主流js庫,具有快速界面開發(fā)的能力,對(duì)瀏覽器兼容性、前端性能優(yōu)化等有深入理解。精通網(wǎng)頁制作和網(wǎng)頁游戲開發(fā)。
具有10 年的Java 企業(yè)應(yīng)用開發(fā)經(jīng)驗(yàn)。曾經(jīng)歷任德國Software AG 技術(shù)顧問,美國Dachieve 系統(tǒng)架構(gòu)師,美國AngelEngineers Inc. 系統(tǒng)架構(gòu)師。