Kotlin中的惰性操作容器Sequence序列使用原理详解

第Kotlin中的惰性操作容器Sequence序列使用原理详解目录Sequence序列执行的顺序只做最少的操作序列可以是无限的序列不会在每个步骤创建集合Sequence的基本使用序列的创建序列的操作Sequence源码分析Sequence是什么？序列的创建方式分析序列的惰性原理总结

Sequence序列

Sequence是Kotlin标准库提供的一种容器类型。它和Iterable一样具备对集合进行多步骤操作能力，但是却是采用了一种完全不同于Iterable的实现方式：

valmap=(0..3).filter{

println("filter:$it")

it%2==0

}.map{

println("map:$it")

it+1

println(map)

上面的代码用来演示Iterable进行连续操作的情况。它的输出如下：

filter:0

filter:1

filter:2

filter:3

map:0

map:2

[1,3]

像map和filter这些链式集合函数它们都会立即执行并创建中间临时集用来保存数据。当原始数据不多时，这并不会有什么影响。但是，当原始数据量非常大的时候。这就会变的非常低效。而此时，就可以借助Sequence提高效率。

valsequence=(0..3).asSequence().filter{

println("filter:$it")

it%2==0

}.map{

println("map:$it")

it+1

println("准备开始执行")

println(sequence.toList())

上面的代码执行结果如下：

准备开始执行

filter:0

map:0

filter:1

filter:2

map:2

filter:3

[1,3]

对比Iterable和Sequence：

Iterable是即时的、Sequence是惰性的：前者会要求尽早的计算结果，因此在多步骤处理链的每一环都会有中间产物也就是新的集合产生；后者会尽可能的延迟计算结果，Sequence处理的中间函数不进行任何计算。相反，他们返回一个新Sequence的，用新的操作装饰前一个，所有的这些计算都只是在类似toList的终端操作期间进行。

区分中间操作符和末端操作符的方式也很简单：如果操作符返回的是一个Sequence类型的数据，它就是中间操作符。

在操作的执行方式上也有所不同：Iterable每次都是在整个集合执行完操作后再进行下一步操作采用第一个操作并将其应用于整个集合，然后移动到下一个操作，官方将其称呼为急切式或者按步骤执行（Eager/step-by-step）；**而Sequence则是逐个对每个元素执行所有操作。是一种惰性顺序取第一个元素并应用所有操作，然后取下一个元素，依此类推。**官方将其称呼为惰性式或者按元素执行（Lazy/element-by-element)

序列的惰性会带来一下几个优点：

它们的操作按照元素的自然顺序进行；只做最少的操作；元素可以是无限多个；不需要在每一步都创建集合

Sequence可避免生成中间步骤的结果，从而提高了整个集合处理链的性能。但是，惰性性质也会带来一些运行开销。所以在使用时要权衡惰性开销和中间步骤开销，在Sequence和Iterable中选择更加合适的实现方式。

执行的顺序

sequenceOf(1,2,3)

.filter{print("F$it,");it%2==1}

.map{print("M$it,");it*2}

.forEach{print("E$it,")}

//Prints:F1,M1,E2,F2,F3,M3,E6,

listOf(1,2,3)

.filter{print("F$it,");it%2==1}

.map{print("M$it,");it*2}

.forEach{print("E$it,")}

//Prints:F1,F2,F3,M1,M3,E2,E6,

sequence的执行时按照元素进行的，依次对元素执行所有的操作，对一个元素而言，所有操作时依次全部执行的。而普通集合操作则是以操作步骤进行的，当所有的元素执行完当前操作后才会进入下一个操作。

只做最少的操作

试想一下我们有一千万个数字，我们要经过几次变换取出20个，使用下面的代码对比一下序列和不同集合操作的性能：

funmain(){

valfFlow=FFlow()

fFlow.demoList()

fFlow.demoSequence()

fundemoSequence(){

valcurrentTimeMillis=System.currentTimeMillis()

vallist=

(0..10000000).asSequence().map{it*2}.map{it-1}.take(20).toList()

println("demoSequence:${System.currentTimeMillis()-currentTimeMillis}：$list")

fundemoList(){

valcurrentTimeMillis=System.currentTimeMillis()

vallist=

(0..10000000).map{it*2}.map{it-1}.take(20).toList()

println("demoList:${System.currentTimeMillis()-currentTimeMillis}：$list")

输出的结果如下：

demoSequence:20ms：[-1,1,3,5,7,9,11,13,15,17,19,21,23,25,27,29,31,33,35,37]

demoList:4106ms：[-1,1,3,5,7,9,11,13,15,17,19,21,23,25,27,29,31,33,35,37]

这就是只执行最少操作的意思，序列按照元素顺序执行，当取够29个元素之后便会立即停止计算。而不同的集合则不同，没有中间操作的概念。它的每次操作都会对整个数组中的所有元素执行完才会进行下一个也就是前两个map都要执行一千万次。

序列可以是无限的

看如下代码：

varlist=emptyArrayInt()

vari=0

while(true){

list[i]=i++

list.take(10)

很明显，这段代码是没法正常运行的，因为这里有一个死循环。我们也无法创建一个无限长度的集合。但是：因为序列式按步骤依照需求进行处理的，所哟我们可以创建无限序列：

valnoEnd=sequence{

vari=1

while(true){

yield(i)

i*=2

noEnd.take(4).toList()

//输出:[1,2,4,8]

但是一定要注意，我们虽然可以这么写，但是务必不能真的让while一直循环。我们不能直接使用toList。必须提供一个能结束循环的操作符，也就是不能取出所有元素（无限个）要么使用类似take的操作来限制它们的数量，要么使用不需要所有元素的终端操作，例如first,find,any,all,indexOf等。

序列不会在每个步骤创建集合

普通的集合会在每次变换之后都会创建新的集合取存储所有变换后的元素。而每次创建集合和填入数据都会带来不小的性能开销。尤其是当我们处理大量或大量的集合时，性能问题会愈发凸显。而序列的按元素操作，则不会有这个问题。除非手动调用了终端操作符，否则不会生成新的集合。

Sequence的基本使用

Sequence序列的使用和普通的Iterable极其相似，实际上其内部也还是借助Iterable实现的。在研究它的内部实现原理之前，想从Sequence的创建和基本的序列操作来演示Sequence的基本用法。

序列的创建

创建Sequence的方式大概可以分为。分别是由元素创建、通过Iterable、借助函数以及由代码块创建。

由元素创建：通过调用顶级函数sequenceOf实现：

valints=sequenceOf(1,2,3,4,5,6,7)

valstrings=sequenceOf("a","b","c","d","e")

通过Iterable转化：借助Iterable的扩展函数asSequence实现：

valints=listOf(1,2,3,4,5,6,7).asSequence()

valstrings=listOf("a","b","c","d","e").asSequence()

通过generateSequence实现：该方法有三个：

generateSequence(seedFunction:()-T,nextFunction:(T)-T):SequenceT

generateSequence(seed:T,nextFunction:(T)-T):SequenceT

generateSequence(nextFunction:()-T):SequenceT

最终都是通过GeneratorSequence实现的，这里先不进行源码分析。只讨论使用方式：

其中三个函数都有的形参nextFunction可以理解为元素生成器，序列里的元素都通过调用该函数生成，当它返回为null是，序列停止生成（所以，nextFunction必须要在某个情况下返回null，否则会因为序列元素是无限多个触发java.lang.OutOfMemoryError:Javaheapspace异常）。而另外两个的seedFunction和seed形参都是为了确定数据初始值的。区别在于一个直接指明，一个通过调用函数获取。

分别用这三个函数生成0~100的序列，代码如下：

valgenerateSequenceOne=generateSequence{

if(i100){

}else{

null

valgenerateSequenceTwo=generateSequence(0){

if(it100){

it+1//此处的it是上一个元素

}else{

null

valgenerateSequenceThree=generateSequence({0}){

if(it100){

it+1//此处的it是上一个元素

}else{

null

由代码块生成：借助sequence(block:suspendSequenceScope.()-Unit)函数。该函数接受一个挂起函数，该函数会接受一个SequenceScope实例，这个实例无需我们创建（后面源码分析会讲到）。SequenceScope提供了yield和yieldAll方法复杂返回序列元素给调用者，并暂停序列的执行，直到使用者请求下一个元素。

用该函数生成0~100的序列，代码如下：

valints=sequence{

repeat(100){

yield(it)

序列的操作

对序列的操作可以分为中间操作和末端操作两种。它们只要有一下另种区别：

中间操作返回惰性生成的一个新的序列，而末端序列则为其他普通的数据类型；中间操作不会立刻执行代码，仅当执行了末端操作序列才会开始执行。

常见的中间操作包括：map、fliter、first、last、take等；它们会序列提供数据变化过滤等增强功能基本上和kotlin提供的集合操作符有着相同的功能。

常见的末端操作有：toList、toMutableList、sum、count等。它们在提供序列操作功能的同时，还会触发序列的运行。

Sequence源码分析

上文对序列做了简单的入门介绍。接下来深入源码去了解一下Sequence的实现方式。

Sequence是什么？

Kotlin对的定义Sequence很简单：

publicinterfaceSequenceoutT{

publicoperatorfuniterator():IteratorT

就是一个接口，定义了一个返回Iterator的方法。接口本身只定义了Sequence具有返回一个迭代器的能力。具体的功能实现还是靠它的实现类完成。

可以概括一些：序列就是一个具备提供了迭代器能力的类。

序列的创建方式分析

结合上文中提到的序列的四种创建方式，我们依次分析一下它的创建流程。

我们首先以比较常用的通过Iterable转化获取序列，它需要借助asSequence方法分析一下，使用listOf(a,b,c,d,e).asSequence()生成一个序列。调用链如下：

publicfunTIterableT.asSequence():SequenceT{

returnSequence{this.iterator()}

publicinlinefunTSequence(crossinlineiterator:()-IteratorT):SequenceT=object:SequenceT{

overridefuniterator():IteratorT=iterator()

流程很简单，一个扩展函数加一个内联函数。最终通过匿名内部类的方式创建一个Sequence并返回。代码很好理解，实际上它的实现逻辑等同于下面的代码：

valsequence=MySequence(listOf("a","b","c","d","e").iterator())

classMySequenceT(privatevaliterator:IteratorT):SequenceT{

overridefuniterator():IteratorT{

returniterator

接着看一下通过调用顶级函数sequenceOf实现，以sequenceOf(a,b,c,d,e)为例，它的调用逻辑如下：

publicfunTsequenceOf(varargelements:T):SequenceT=if(elements.isEmpty())emptySequence()elseelements.asSequence()

可以看到依旧是借助asSequence实现的。

接下来看一下代码块和generateSequence的实现方式，这两个方式会比较复杂一点，毕竟前面两个都是借助List进行转换，而List本身就能提供迭代器Iterator。后面两个明显需要提供新的迭代器。首先看一下代码看的实现方式：

valints=sequence{

repeat(100){

yield(it)

其中sequence的调用逻辑如下：

publicfunTsequence(@BuilderInferenceblock:suspendSequenceScopeT.()-Unit):SequenceT=Sequence{iterator(block)}

publicfunTiterator(@BuilderInferenceblock:suspendSequenceScopeT.()-Unit):IteratorT{

//创建迭代器

valiterator=SequenceBuilderIteratorT()

iterator.nextStep=block.createCoroutineUnintercepted(receiver=iterator,completion=iterator)

returniterator

publicinlinefunTSequence(crossinlineiterator:()-IteratorT):SequenceT=object:SequenceT{

overridefuniterator():IteratorT=iterator()

可以发现：该方法和asSequence一样最终也是通过匿名内部类的方式创建了一个Sequence。不过区别在于，该方法需要创建一个新的迭代器，也就是SequenceBuilderIterator。同样以MySequence为例，它的创建流程等同于一下代码：

funmian(){

createInt{myblock()}

suspendfunSequenceScopeInt.myblock(){

repeat(100){

yield(it)

funIntcreate(block:suspendSequenceScopeInt.()-Unit):SequenceInt{

valiterator=SequenceBuilderIteratorInt()

iterator.nextStep=block.createCoroutineUnintercepted(receiver=iterator,completion=iterator)

returnMySequence(iterator)

当然，这是不可能实现的，因为SequenceBuilderIterator是被private修饰了，我们是无法直接访问的。这里强制写出来演示一下它的流程。

最后看一下通过generateSequence方法创建序列的源码，一共有三个：

publicfunT:AnygenerateSequence(seedFunction:()-T,nextFunction:(T)-T):SequenceT=

GeneratorSequence(seedFunction,nextFunction)

publicfunT:AnygenerateSequence(seed:T,nextFunction:(T)-T):SequenceT=

if(seed==null)

EmptySequence

else

GeneratorSequence({seed},nextFunction)

publicfunT:AnygenerateSequence(nextFunction:()-T):SequenceT{

returnGeneratorSequence(nextFunction,{nextFunction()}).constrainOnce()

最终都是创建了GeneratorSequence的一个实例并返回，而GeneratorSequence实现了Sequence接口并重写了iterator()方法：

privateclassGeneratorSequenceT:Any(privatevalgetInitialValue:()-T,privatevalgetNextValue:(T)-T):SequenceT{

overridefuniterator():IteratorT=object:IteratorT{

varnextItem:T=null

varnextState:Int=-2//-2forinitialunknown,-1fornextunknown,0fordone,1forcontinue

privatefuncalcNext(){

nextItem=if(nextState==-2)getInitialValue()elsegetNextValue(nextItem!!)

nextState=if(nextItem==null)0else1

overridefunnext():T{

if(nextState0)

calcNext()

if(nextState==0)

throwNoSuchElementException()

valresult=nextItemasT

//DonotcleannextItem(toavoidkeepingreferenceonyieldedinstance)--needtokeepstateforgetNextValue

nextState=-1

returnresult

overridefunhasNext():Boolean{

if(nextState0)

calcNext()

returnnextState==1

总结一下Sequence的创建大致可以分为三类：

使用List自带的迭代器通过匿名的方式创建Sequence实例，sequenceOf(a,b,c,d,e)和listOf(a,b,c,d,e).asSequence()就是这种方式；创建新的SequenceBuilderIterator迭代器，并通过匿名的方式创建Sequence实例。例如使用代码块的创建方式。创建GeneratorSequence，通过重写iterator()方法，使用匿名的方式创建Iterator。GeneratorSequence方法就是采用的这种方式。

看完创建方式，也没什么奇特的，就是一个提供迭代器的普通类。还是看不出是如何惰性执行操作的。接下来就分析一下惰性操作的原理。

序列的惰性原理

以最常用的map操作符为例：普通的集合操作源码如下：

publicinlinefunT,RIterableT.map(transform:(T)-R):ListR{

//出啊年一个新的ArrayList，并调用mapTo方法

returnmapTo(ArrayListR(collectionSizeOrDefault(10)),transform)

publicinlinefunT,R,C:MutableCollectioninRIterableT.mapTo(destination:C,transform:(T)-R):C{

//遍历原始的集合，进行变换操作，然后将变换后的数据依次加入到新创建的集合

for(iteminthis)

destination.add(transform(item))

//返回新集合

returndestination

可以看到：当List.map被调用后，便会立即创建新的集合，然后遍历老数据并进行变换操作。最后返回一个新的数据。这印证了上面提到的普通集合的操作时按照步骤且会立刻执行的理论。

接下来看一下序列的map方法，它的源码如下：

publicfunT,RSequenceT.map(transform:(T)-R):SequenceR{

returnTransformingSequence(this,transform)

internalclassTransformingSequenceT,R

constructor(privatevalsequence:SequenceT,privatevaltransformer:(T)-R):SequenceR{

overridefuniterator():IteratorR=object:IteratorR{

//注释一：TransformingSequence的iterator持有上一个序列的迭代器

valiterator=sequence.iterator()

overridefunnext():R{

//注释二：在开始执行迭代时，向上调用前一个序列的迭代器。

returntransformer(iterator.next())

overridefunhasNext():Boolean{

returniterator.hasNext()

internalfunEflatten(iterator:(R)-IteratorE):SequenceE{

returnFlatteningSequenceT,R,E(sequence,transformer,iterator)

代码并不复杂，它接收用户提供的变换函数和序列，然后创建了一个TransformingSequence并返回。TransformingSequence本身和上文中提到的序列没什么区别，唯一的区别在于它的迭代器：在通过next依次取数据的时候，并不是直接返回元素。而是先调用调用者提供的函数进行变换。返回变换后的数据这也没什么新鲜的，和普通集合的map操作符和RxJava的Map都是同样的原理。

但是，这里却又有点不一样。操作符里没有任何开启迭代的代码，它只是对序列以及迭代进行了嵌套处理，并不会开启迭代.如果用户不手动调用（后者间接调用）迭代器的next函数，序列就不会被执行这就是惰性执行的机制的原理所在。

而且，由于操作符返回的是一个Sequence类型的值，当你重复不断调用map时，例如下面的代码：

(0..10).asSequence().map{add(it)}.map{add(it)}.map{add(it)}.toList()

//等同于

valsequence1=(0..10).asSequence()

valsequence2=sequence1.map{it+1}

valsequence3=sequence2.map{it+1}

sequence3.toList()

最终，序列sequence3的结构持有如下：sequence3-sequence2-sequence1。而它们都有各自的迭代器。迭代器里都重写了各自的变换逻辑:

overridefunnext():R{

returntransformer(iterator.next())

//由于这里都是执行的+1操作，所以变换逻辑transformer可以认为等同于如下操作:

overridefunnext():R{

returniterator.next()+1

而当我们通过sequence3.toList执行代码时，它的流程如下：

publicfunTSequenceT.toList():ListT{

returnthis.toMutableList().optimizeReadOnlyList(