Django-model进阶
知識預(yù)覽
- QuerySet
- 中介模型
- 查詢優(yōu)化
- extra
- 整體插入
QuerySet
可切片
使用Python 的切片語法來限制查詢集記錄的數(shù)目?。它等同于SQL 的LIMIT?和OFFSET?子句。
| 1 | >>> Entry.objects.all()[:5]????? # (LIMIT?5) |
不支持負(fù)的索引(例如Entry.objects.all()[-1])。通常,查詢集?的切片返回一個新的查詢集?—— 它不會執(zhí)行查詢。
可迭代
articleList=models.Article.objects.all()for article in articleList:print(article.title)惰性查詢
查詢集?是惰性執(zhí)行的 —— 創(chuàng)建查詢集不會帶來任何數(shù)據(jù)庫的訪問。你可以將過濾器保持一整天,直到查詢集?需要求值時,Django 才會真正運(yùn)行這個查詢。
| 1 2 3 4 5 6 | queryResult=models.Article.objects.all() #?not?hits?database print(queryResult) # hits?database for?article?in?queryResult: ????print(article.title)??? # hits?database |
?一般來說,只有在“請求”查詢集?的結(jié)果時才會到數(shù)據(jù)庫中去獲取它們。當(dāng)你確實需要結(jié)果時,查詢集?通過訪問數(shù)據(jù)庫來求值。?關(guān)于求值發(fā)生的準(zhǔn)確時間,參見何時計算查詢集。
緩存機(jī)制
每個查詢集都包含一個緩存來最小化對數(shù)據(jù)庫的訪問。理解它是如何工作的將讓你編寫最高效的代碼。
在一個新創(chuàng)建的查詢集中,緩存為空。首次對查詢集進(jìn)行求值 —— 同時發(fā)生數(shù)據(jù)庫查詢 ——Django 將保存查詢的結(jié)果到查詢集的緩存中并返回明確請求的結(jié)果(例如,如果正在迭代查詢集,則返回下一個結(jié)果)。接下來對該查詢集?的求值將重用緩存的結(jié)果。
請牢記這個緩存行為,因為對查詢集使用不當(dāng)?shù)脑?#xff0c;它會坑你的。例如,下面的語句創(chuàng)建兩個查詢集,對它們求值,然后扔掉它們:
| 1 2 | print([a.title?for?a?in?models.Article.objects.all()]) print([a.create_time?for?a?in?models.Article.objects.all()]) |
這意味著相同的數(shù)據(jù)庫查詢將執(zhí)行兩次,顯然倍增了你的數(shù)據(jù)庫負(fù)載。同時,還有可能兩個結(jié)果列表并不包含相同的數(shù)據(jù)庫記錄,因為在兩次請求期間有可能有Article被添加進(jìn)來或刪除掉。為了避免這個問題,只需保存查詢集并重新使用它:
| 1 2 3 | queryResult=models.Article.objects.all() print([a.title?for?a?in?queryResult]) print([a.create_time?for?a?in?queryResult]) |
何時查詢集不會被緩存?
查詢集不會永遠(yuǎn)緩存它們的結(jié)果。當(dāng)只對查詢集的部分進(jìn)行求值時會檢查緩存, 如果這個部分不在緩存中,那么接下來查詢返回的記錄都將不會被緩存。所以,這意味著使用切片或索引來限制查詢集將不會填充緩存。
例如,重復(fù)獲取查詢集對象中一個特定的索引將每次都查詢數(shù)據(jù)庫:
| 1 2 3 | >>> queryset?=?Entry.objects.all() >>>?print?queryset[5]?# Queries the database >>>?print?queryset[5]?# Queries the database again |
然而,如果已經(jīng)對全部查詢集求值過,則將檢查緩存:
| 1 2 3 4 | >>> queryset?=?Entry.objects.all() >>> [entry?for?entry?in?queryset]?# Queries the database >>>?print?queryset[5]?# Uses cache >>>?print?queryset[5]?# Uses cache |
下面是一些其它例子,它們會使得全部的查詢集被求值并填充到緩存中:
| 1 2 3 4 | >>> [entry?for?entry?in?queryset] >>>?bool(queryset) >>> entry?in?queryset >>>?list(queryset) |
注:簡單地打印查詢集不會填充緩存。
+ View Codeexists()與iterator()方法
exists:
簡單的使用if語句進(jìn)行判斷也會完全執(zhí)行整個queryset并且把數(shù)據(jù)放入cache,雖然你并不需要這些 數(shù)據(jù)!為了避免這個,可以用exists()方法來檢查是否有數(shù)據(jù):
if queryResult.exists():#SELECT (1) AS "a" FROM "blog_article" LIMIT 1; args=()print("exists...")iterator:
當(dāng)queryset非常巨大時,cache會成為問題。
處理成千上萬的記錄時,將它們一次裝入內(nèi)存是很浪費的。更糟糕的是,巨大的queryset可能會鎖住系統(tǒng) 進(jìn)程,讓你的程序瀕臨崩潰。要避免在遍歷數(shù)據(jù)的同時產(chǎn)生queryset cache,可以使用iterator()方法 來獲取數(shù)據(jù),處理完數(shù)據(jù)就將其丟棄。
objs = Book.objects.all().iterator() # iterator()可以一次只從數(shù)據(jù)庫獲取少量數(shù)據(jù),這樣可以節(jié)省內(nèi)存 for obj in objs:print(obj.title) #BUT,再次遍歷沒有打印,因為迭代器已經(jīng)在上一次遍歷(next)到最后一次了,沒得遍歷了 for obj in objs:print(obj.title)當(dāng)然,使用iterator()方法來防止生成cache,意味著遍歷同一個queryset時會重復(fù)執(zhí)行查詢。所以使 #用iterator()的時候要當(dāng)心,確保你的代碼在操作一個大的queryset時沒有重復(fù)執(zhí)行查詢。
總結(jié):
queryset的cache是用于減少程序?qū)?shù)據(jù)庫的查詢,在通常的使用下會保證只有在需要的時候才會查詢數(shù)據(jù)庫。 使用exists()和iterator()方法可以優(yōu)化程序?qū)?nèi)存的使用。不過,由于它們并不會生成queryset cache,可能 會造成額外的數(shù)據(jù)庫查詢。
回到頂部中介模型
處理類似搭配 pizza 和 topping 這樣簡單的多對多關(guān)系時,使用標(biāo)準(zhǔn)的ManyToManyField? 就可以了。但是,有時你可能需要關(guān)聯(lián)數(shù)據(jù)到兩個模型之間的關(guān)系上。
例如,有這樣一個應(yīng)用,它記錄音樂家所屬的音樂小組。我們可以用一個ManyToManyField?表示小組和成員之間的多對多關(guān)系。但是,有時你可能想知道更多成員關(guān)系的細(xì)節(jié),比如成員是何時加入小組的。
對于這些情況,Django 允許你指定一個中介模型來定義多對多關(guān)系。?你可以將其他字段放在中介模型里面。源模型的ManyToManyField?字段將使用through?參數(shù)指向中介模型。對于上面的音樂小組的例子,代碼如下:
| 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 | from?django.db?import?models class?Person(models.Model): ????name?=?models.CharField(max_length=128) ????def?__str__(self):??????????????# __unicode__ on Python 2 ????????return?self.name class?Group(models.Model): ????name?=?models.CharField(max_length=128) ????members?=?models.ManyToManyField(Person, through='Membership') ????def?__str__(self):??????????????# __unicode__ on Python 2 ????????return?self.name class?Membership(models.Model): ????person?=?models.ForeignKey(Person) ????group?=?models.ForeignKey(Group) ????date_joined?=?models.DateField() ????invite_reason?=?models.CharField(max_length=64) |
既然你已經(jīng)設(shè)置好ManyToManyField?來使用中介模型(在這個例子中就是Membership),接下來你要開始創(chuàng)建多對多關(guān)系。你要做的就是創(chuàng)建中介模型的實例:
| 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 | >>> ringo?=?Person.objects.create(name="Ringo Starr") >>> paul?=?Person.objects.create(name="Paul McCartney") >>> beatles?=?Group.objects.create(name="The Beatles") >>> m1?=?Membership(person=ringo, group=beatles, ...???? date_joined=date(1962,?8,?16), ...???? invite_reason="Needed a new drummer.") >>> m1.save() >>> beatles.members.all() [<Person: Ringo Starr>] >>> ringo.group_set.all() [<Group: The Beatles>] >>> m2?=?Membership.objects.create(person=paul, group=beatles, ...???? date_joined=date(1960,?8,?1), ...???? invite_reason="Wanted to form a band.") >>> beatles.members.all() [<Person: Ringo Starr>, <Person: Paul McCartney>] |
與普通的多對多字段不同,你不能使用add、?create和賦值語句(比如,beatles.members?=?[...])來創(chuàng)建關(guān)系:
| 1 2 3 4 5 6 | # THIS WILL NOT WORK >>> beatles.members.add(john) # NEITHER WILL THIS >>> beatles.members.create(name="George Harrison") # AND NEITHER WILL THIS >>> beatles.members?=?[john, paul, ringo, george] |
為什么不能這樣做??這是因為你不能只創(chuàng)建?Person和?Group之間的關(guān)聯(lián)關(guān)系,你還要指定?Membership模型中所需要的所有信息;而簡單的add、create?和賦值語句是做不到這一點的。所以它們不能在使用中介模型的多對多關(guān)系中使用。此時,唯一的辦法就是創(chuàng)建中介模型的實例。
?remove()方法被禁用也是出于同樣的原因。但是clear()?方法卻是可用的。它可以清空某個實例所有的多對多關(guān)系:
| 1 2 3 4 5 | >>>?# Beatles have broken up >>> beatles.members.clear() >>>?# Note that this deletes the intermediate model instances >>> Membership.objects.all() [] |
查詢優(yōu)化
表數(shù)據(jù)
+ View Codeselect_related
簡單使用
對于一對一字段(OneToOneField)和外鍵字段(ForeignKey),可以使用select_related 來對QuerySet進(jìn)行優(yōu)化。
select_related?返回一個QuerySet,當(dāng)執(zhí)行它的查詢時它沿著外鍵關(guān)系查詢關(guān)聯(lián)的對象的數(shù)據(jù)。它會生成一個復(fù)雜的查詢并引起性能的損耗,但是在以后使用外鍵關(guān)系時將不需要數(shù)據(jù)庫查詢。
簡單說,在對QuerySet使用select_related()函數(shù)后,Django會獲取相應(yīng)外鍵對應(yīng)的對象,從而在之后需要的時候不必再查詢數(shù)據(jù)庫了。
下面的例子解釋了普通查詢和select_related()?查詢的區(qū)別。
查詢id=2的文章的分類名稱,下面是一個標(biāo)準(zhǔn)的查詢:
| 1 2 3 4 5 | # Hits the database. article=models.Article.objects.get(nid=2) # Hits the database again to get the related Blog object. print(article.category.title) |
?如果我們使用select_related()函數(shù):
| 1 2 3 4 5 6 7 | articleList=models.Article.objects.select_related("category").all() ????for?article_obj?in?articleList: ????????#? Doesn't hit the?database, because article_obj.category ????????#? has been prepopulated?in?the previous query. ????????print(article_obj.category.title) |
多外鍵查詢
這是針對category的外鍵查詢,如果是另外一個外鍵呢?讓我們一起看下:
| 1 2 | article=models.Article.objects.select_related("category").get(nid=1) print(article.articledetail) |
?觀察logging結(jié)果,發(fā)現(xiàn)依然需要查詢兩次,所以需要改為:
| 1 2 | article=models.Article.objects.select_related("category","articledetail").get(nid=1) print(article.articledetail) |
?或者:
article=models.Article.objects.select_related("category")
.select_related("articledetail")
.get(nid=1) # django 1.7 支持鏈?zhǔn)讲僮?print(article.articledetail)
?
+ View Code深層查詢
| 1 2 3 4 | # 查詢id=1的文章的用戶姓名 ????article=models.Article.objects.select_related("blog").get(nid=1) ????print(article.blog.user.username) |
?依然需要查詢兩次:
+ View Code?這是因為第一次查詢沒有query到userInfo表,所以,修改如下:
| 1 2 | article=models.Article.objects.select_related("blog__user").get(nid=1) print(article.blog.user.username) |
總結(jié)
prefetch_related()
對于多對多字段(ManyToManyField)和一對多字段,可以使用prefetch_related()來進(jìn)行優(yōu)化。
prefetch_related()和select_related()的設(shè)計目的很相似,都是為了減少SQL查詢的數(shù)量,但是實現(xiàn)的方式不一樣。后者是通過JOIN語句,在SQL查詢內(nèi)解決問題。但是對于多對多關(guān)系,使用SQL語句解決就顯得有些不太明智,因為JOIN得到的表將會很長,會導(dǎo)致SQL語句運(yùn)行時間的增加和內(nèi)存占用的增加。若有n個對象,每個對象的多對多字段對應(yīng)Mi條,就會生成Σ(n)Mi 行的結(jié)果表。
prefetch_related()的解決方法是,分別查詢每個表,然后用Python處理他們之間的關(guān)系。
| 1 2 3 4 5 | # 查詢所有文章關(guān)聯(lián)的所有標(biāo)簽 ????article_obj=models.Article.objects.all() ????for?i?in?article_obj: ????????print(i.tags.all())? #4篇文章: hits?database?5 |
改為prefetch_related:
| 1 2 3 4 5 | # 查詢所有文章關(guān)聯(lián)的所有標(biāo)簽 ????article_obj=models.Article.objects.prefetch_related("tags").all() ????for?i?in?article_obj: ????????print(i.tags.all())? #4篇文章: hits?database?2 |
extra
extra(select=None, where=None, params=None,tables=None, order_by=None, select_params=None)
有些情況下,Django的查詢語法難以簡單的表達(dá)復(fù)雜的?WHERE?子句,對于這種情況, Django 提供了?extra()?QuerySet修改機(jī)制 — 它能在?QuerySet生成的SQL從句中注入新子句
extra可以指定一個或多個?參數(shù),例如?select,?where?or?tables.?這些參數(shù)都不是必須的,但是你至少要使用一個!要注意這些額外的方式對不同的數(shù)據(jù)庫引擎可能存在移植性問題.(因為你在顯式的書寫SQL語句),除非萬不得已,盡量避免這樣做
參數(shù)之select
The?select?參數(shù)可以讓你在?SELECT?從句中添加其他字段信息,它應(yīng)該是一個字典,存放著屬性名到 SQL 從句的映射。
queryResult=models.Article.objects.extra(select={'is_recent': "create_time > '2017-09-05'"})
結(jié)果集中每個 Entry 對象都有一個額外的屬性is_recent, 它是一個布爾值,表示 Article對象的create_time 是否晚于2017-09-05.
練習(xí):
# in sqlite:article_obj=models.Article.objects.filter(nid=1)
.extra(select={"standard_time":"strftime('%%Y-%%m-%%d',create_time)"})
.values("standard_time","nid","title")print(article_obj)# <QuerySet [{'title': 'MongoDb 入門教程', 'standard_time': '2017-09-03', 'nid': 1}]>
參數(shù)之where?/?tables
您可以使用where定義顯式SQL?WHERE子句 - 也許執(zhí)行非顯式連接。您可以使用tables手動將表添加到SQL?FROM子句。
where和tables都接受字符串列表。所有where參數(shù)均為“與”任何其他搜索條件。
舉例來講:
queryResult=models.Article.objects.extra(where=['nid in (1,3) OR title like "py%" ','nid>2']) 回到頂部
整體插入
創(chuàng)建對象時,盡可能使用bulk_create()來減少SQL查詢的數(shù)量。例如:
Entry.objects.bulk_create([Entry(headline="Python 3.0 Released"),Entry(headline="Python 3.1 Planned") ])...更優(yōu)于:
Entry.objects.create(headline="Python 3.0 Released") Entry.objects.create(headline="Python 3.1 Planned")注意該方法有很多注意事項,所以確保它適用于你的情況。
這也可以用在ManyToManyFields中,所以:
my_band.members.add(me, my_friend)...更優(yōu)于:
my_band.members.add(me) my_band.members.add(my_friend)...其中Bands和Artists具有多對多關(guān)聯(lián)。
轉(zhuǎn)載于:https://www.cnblogs.com/wangmo/p/8360397.html
總結(jié)
以上是生活随笔為你收集整理的Django-model进阶的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 浦发银行中午休息吗?下午什么时候上班?
- 下一篇: Execution Order of E