Discard render instruction if it is empty
[platform/core/uifw/dali-core.git] / dali / internal / update / manager / render-instruction-processor.cpp
1 /*
2  * Copyright (c) 2017 Samsung Electronics Co., Ltd.
3  *
4  * Licensed under the Apache License, Version 2.0 (the "License");
5  * you may not use this file except in compliance with the License.
6  * You may obtain a copy of the License at
7  *
8  * http://www.apache.org/licenses/LICENSE-2.0
9  *
10  * Unless required by applicable law or agreed to in writing, software
11  * distributed under the License is distributed on an "AS IS" BASIS,
12  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
13  * See the License for the specific language governing permissions and
14  * limitations under the License.
15  *
16  */
17
18 // CLASS HEADER
19 #include <dali/internal/update/manager/render-instruction-processor.h>
20
21 // INTERNAL INCLUDES
22 #include <dali/public-api/actors/layer.h>
23 #include <dali/integration-api/debug.h>
24 #include <dali/internal/event/actors/layer-impl.h> // for the default sorting function
25 #include <dali/internal/update/manager/sorted-layers.h>
26 #include <dali/internal/update/render-tasks/scene-graph-render-task.h>
27 #include <dali/internal/update/rendering/scene-graph-texture-set.h>
28 #include <dali/internal/render/common/render-item.h>
29 #include <dali/internal/render/common/render-tracker.h>
30 #include <dali/internal/render/common/render-instruction.h>
31 #include <dali/internal/render/common/render-instruction-container.h>
32 #include <dali/internal/render/shaders/scene-graph-shader.h>
33 #include <dali/internal/render/renderers/render-renderer.h>
34 #include <dali/internal/render/renderers/render-property-buffer.h>
35 #include <dali/internal/update/nodes/scene-graph-layer.h>
36
37 namespace
38 {
39 #if defined(DEBUG_ENABLED)
40 Debug::Filter* gRenderListLogFilter = Debug::Filter::New(Debug::NoLogging, false, "LOG_RENDER_LISTS");
41 #endif
42 }
43
44 namespace Dali
45 {
46
47 namespace Internal
48 {
49
50 namespace SceneGraph
51 {
52
53 namespace
54 {
55
56 /**
57  * Function which compares render items by shader/textureSet/geometry
58  * @param[in] lhs Left hand side item
59  * @param[in] rhs Right hand side item
60  * @return True if left item is greater than right
61  */
62 inline bool PartialCompareItems( const RenderInstructionProcessor::SortAttributes& lhs,
63                                  const RenderInstructionProcessor::SortAttributes& rhs )
64 {
65   if( lhs.shader == rhs.shader )
66   {
67     if( lhs.textureSet == rhs.textureSet )
68     {
69       return lhs.geometry < rhs.geometry;
70     }
71     return lhs.textureSet < rhs.textureSet;
72   }
73   return lhs.shader < rhs.shader;
74 }
75
76 /**
77  * Function which sorts render items by depth index then by instance
78  * ptrs of shader/textureSet/geometry.
79  * @param[in] lhs Left hand side item
80  * @param[in] rhs Right hand side item
81  * @return True if left item is greater than right
82  */
83 bool CompareItems( const RenderInstructionProcessor::SortAttributes& lhs, const RenderInstructionProcessor::SortAttributes& rhs )
84 {
85   // @todo Consider replacing all these sortAttributes with a single long int that
86   // encapsulates the same data (e.g. the middle-order bits of the ptrs).
87   if( lhs.renderItem->mDepthIndex == rhs.renderItem->mDepthIndex )
88   {
89     return PartialCompareItems( lhs, rhs );
90   }
91   return lhs.renderItem->mDepthIndex < rhs.renderItem->mDepthIndex;
92 }
93
94 /**
95  * Function which sorts the render items by Z function, then
96  * by instance ptrs of shader / geometry / material.
97  * @param[in] lhs Left hand side item
98  * @param[in] rhs Right hand side item
99  * @return True if left item is greater than right
100  */
101 bool CompareItems3D( const RenderInstructionProcessor::SortAttributes& lhs, const RenderInstructionProcessor::SortAttributes& rhs )
102 {
103   const bool lhsIsOpaque = lhs.renderItem->mIsOpaque;
104   if( lhsIsOpaque == rhs.renderItem->mIsOpaque )
105   {
106     if( lhsIsOpaque )
107     {
108       // If both RenderItems are opaque, sort using shader, then material then geometry.
109       return PartialCompareItems( lhs, rhs );
110     }
111     else
112     {
113       // If both RenderItems are transparent, sort using Z, then shader, then material, then geometry.
114       if( Equals( lhs.zValue, rhs.zValue ) )
115       {
116         return PartialCompareItems( lhs, rhs );
117       }
118       return lhs.zValue > rhs.zValue;
119     }
120   }
121   else
122   {
123     return lhsIsOpaque;
124   }
125 }
126
127 /**
128  * Function which sorts render items by clipping hierarchy, then Z function and instance ptrs of shader / geometry / material.
129  * @param[in] lhs Left hand side item
130  * @param[in] rhs Right hand side item
131  * @return True if left item is greater than right
132  */
133 bool CompareItems3DWithClipping( const RenderInstructionProcessor::SortAttributes& lhs, const RenderInstructionProcessor::SortAttributes& rhs )
134 {
135   // Items must be sorted in order of clipping first, otherwise incorrect clipping regions could be used.
136   if( lhs.renderItem->mNode->mClippingSortModifier == rhs.renderItem->mNode->mClippingSortModifier )
137   {
138     return CompareItems3D( lhs, rhs );
139   }
140
141   return lhs.renderItem->mNode->mClippingSortModifier < rhs.renderItem->mNode->mClippingSortModifier;
142 }
143
144 /**
145  * Add a renderer to the list
146  * @param updateBufferIndex to read the model matrix from
147  * @param renderList to add the item to
148  * @param renderable Node-Renderer pair
149  * @param viewMatrix used to calculate modelview matrix for the item
150  * @param camera The camera used to render
151  * @param isLayer3d Whether we are processing a 3D layer or not
152  * @param cull Whether frustum culling is enabled or not
153  */
154 inline void AddRendererToRenderList( BufferIndex updateBufferIndex,
155                                      RenderList& renderList,
156                                      Renderable& renderable,
157                                      const Matrix& viewMatrix,
158                                      SceneGraph::Camera& camera,
159                                      bool isLayer3d,
160                                      bool cull )
161 {
162   bool inside( true );
163   const Node* node = renderable.mNode;
164
165   if( cull && renderable.mRenderer && !renderable.mRenderer->GetShader().HintEnabled( Dali::Shader::Hint::MODIFIES_GEOMETRY ) )
166   {
167     const Vector4& boundingSphere = node->GetBoundingSphere();
168     inside = ( boundingSphere.w > Math::MACHINE_EPSILON_1000 ) &&
169              ( camera.CheckSphereInFrustum( updateBufferIndex, Vector3( boundingSphere ), boundingSphere.w ) );
170   }
171
172   if( inside )
173   {
174     Renderer::Opacity opacity = renderable.mRenderer ? renderable.mRenderer->GetOpacity( updateBufferIndex, *renderable.mNode ) : Renderer::OPAQUE;
175     if( opacity != Renderer::TRANSPARENT )
176     {
177       // Get the next free RenderItem.
178       RenderItem& item = renderList.GetNextFreeItem();
179
180       item.mNode = renderable.mNode;
181       item.mIsOpaque = ( opacity == Renderer::OPAQUE );
182       if( !isLayer3d )
183       {
184         item.mDepthIndex = renderable.mNode->GetDepthIndex();
185       }
186
187       if( DALI_LIKELY( renderable.mRenderer ) )
188       {
189         item.mRenderer =   &renderable.mRenderer->GetRenderer();
190         item.mTextureSet =  renderable.mRenderer->GetTextures();
191         item.mDepthIndex += renderable.mRenderer->GetDepthIndex();
192       }
193       else
194       {
195         item.mRenderer = nullptr;
196       }
197
198       // Save ModelView matrix onto the item.
199       node->GetWorldMatrixAndSize( item.mModelMatrix, item.mSize );
200
201       Matrix::Multiply( item.mModelViewMatrix, item.mModelMatrix, viewMatrix );
202     }
203   }
204 }
205
206 /**
207  * Add all renderers to the list
208  * @param updateBufferIndex to read the model matrix from
209  * @param renderList to add the items to
210  * @param renderers to render
211  * NodeRendererContainer Node-Renderer pairs
212  * @param viewMatrix used to calculate modelview matrix for the items
213  * @param camera The camera used to render
214  * @param isLayer3d Whether we are processing a 3D layer or not
215  * @param cull Whether frustum culling is enabled or not
216  */
217 inline void AddRenderersToRenderList( BufferIndex updateBufferIndex,
218                                       RenderList& renderList,
219                                       RenderableContainer& renderers,
220                                       const Matrix& viewMatrix,
221                                       SceneGraph::Camera& camera,
222                                       bool isLayer3d,
223                                       bool cull )
224 {
225   DALI_LOG_INFO( gRenderListLogFilter, Debug::Verbose, "AddRenderersToRenderList()\n");
226
227   unsigned int rendererCount( renderers.Size() );
228   for( unsigned int i(0); i < rendererCount; ++i )
229   {
230     AddRendererToRenderList( updateBufferIndex,
231                              renderList,
232                              renderers[i],
233                              viewMatrix,
234                              camera,
235                              isLayer3d,
236                              cull );
237   }
238 }
239
240 /**
241  * Try to reuse cached RenderItems from the RenderList
242  * This avoids recalculating the model view matrices in case this part of the scene was static
243  * An example case is a toolbar layer that rarely changes or a popup on top of the rest of the stage
244  * @param layer that is being processed
245  * @param renderList that is cached from frame N-1
246  * @param renderables list of renderables
247  */
248 inline bool TryReuseCachedRenderers( Layer& layer,
249                                      RenderList& renderList,
250                                      RenderableContainer& renderables )
251 {
252   bool retValue = false;
253   size_t renderableCount = renderables.Size();
254   // Check that the cached list originates from this layer and that the counts match
255   if( ( renderList.GetSourceLayer() == &layer )&&
256       ( renderList.GetCachedItemCount() == renderableCount ) )
257   {
258     // Check that all the same renderers are there. This gives us additional security in avoiding rendering the wrong things.
259     // Render list is sorted so at this stage renderers may be in different order.
260     // Therefore we check a combined sum of all renderer addresses.
261     size_t checkSumNew = 0;
262     size_t checkSumOld = 0;
263     for( size_t index = 0; index < renderableCount; ++index )
264     {
265       const Render::Renderer& renderer = renderables[index].mRenderer->GetRenderer();
266       checkSumNew += size_t( &renderer );
267       checkSumOld += size_t( &renderList.GetRenderer( index ) );
268     }
269     if( checkSumNew == checkSumOld )
270     {
271       // tell list to reuse its existing items
272       renderList.ReuseCachedItems();
273       retValue = true;
274     }
275   }
276   return retValue;
277 }
278
279 inline bool SetupRenderList( RenderableContainer& renderables,
280                              Layer& layer,
281                              RenderInstruction& instruction,
282                              bool tryReuseRenderList,
283                              RenderList** renderList )
284 {
285   *renderList = &( instruction.GetNextFreeRenderList( renderables.Size() ) );
286   ( *renderList )->SetClipping( layer.IsClipping(), layer.GetClippingBox() );
287   ( *renderList )->SetSourceLayer( &layer );
288
289   // Try to reuse cached RenderItems from last time around.
290   return ( tryReuseRenderList && TryReuseCachedRenderers( layer, **renderList, renderables ) );
291 }
292
293 } // Anonymous namespace.
294
295
296 RenderInstructionProcessor::RenderInstructionProcessor()
297 : mSortingHelper()
298 {
299   // Set up a container of comparators for fast run-time selection.
300   mSortComparitors.Reserve( 3u );
301
302   mSortComparitors.PushBack( CompareItems );
303   mSortComparitors.PushBack( CompareItems3D );
304   mSortComparitors.PushBack( CompareItems3DWithClipping );
305 }
306
307 RenderInstructionProcessor::~RenderInstructionProcessor()
308 {
309 }
310
311 inline void RenderInstructionProcessor::SortRenderItems( BufferIndex bufferIndex, RenderList& renderList, Layer& layer, bool respectClippingOrder )
312 {
313   const size_t renderableCount = renderList.Count();
314   // Reserve space if needed.
315   const unsigned int oldcapacity = mSortingHelper.size();
316   if( oldcapacity < renderableCount )
317   {
318     mSortingHelper.reserve( renderableCount );
319     // Add real objects (reserve does not construct objects).
320     mSortingHelper.insert( mSortingHelper.begin() + oldcapacity,
321                           (renderableCount - oldcapacity),
322                           RenderInstructionProcessor::SortAttributes() );
323   }
324   else
325   {
326     // Clear extra elements from helper, does not decrease capability.
327     mSortingHelper.resize( renderableCount );
328   }
329
330   // Calculate the sorting value, once per item by calling the layers sort function.
331   // Using an if and two for-loops rather than if inside for as its better for branch prediction.
332   if( layer.UsesDefaultSortFunction() )
333   {
334     for( size_t index = 0; index < renderableCount; ++index )
335     {
336       RenderItem& item = renderList.GetItem( index );
337
338       if( item.mRenderer )
339       {
340         item.mRenderer->SetSortAttributes( bufferIndex, mSortingHelper[ index ] );
341       }
342
343       // texture set
344       mSortingHelper[ index ].textureSet = item.mTextureSet;
345
346       // The default sorting function should get inlined here.
347       mSortingHelper[ index ].zValue = Internal::Layer::ZValue( item.mModelViewMatrix.GetTranslation3() ) - item.mDepthIndex;
348
349       // Keep the renderitem pointer in the helper so we can quickly reorder items after sort.
350       mSortingHelper[ index ].renderItem = &item;
351     }
352   }
353   else
354   {
355     const Dali::Layer::SortFunctionType sortFunction = layer.GetSortFunction();
356     for( size_t index = 0; index < renderableCount; ++index )
357     {
358       RenderItem& item = renderList.GetItem( index );
359
360       item.mRenderer->SetSortAttributes( bufferIndex, mSortingHelper[ index ] );
361
362       // texture set
363       mSortingHelper[ index ].textureSet = item.mTextureSet;
364
365
366       mSortingHelper[ index ].zValue = (*sortFunction)( item.mModelViewMatrix.GetTranslation3() ) - item.mDepthIndex;
367
368       // Keep the RenderItem pointer in the helper so we can quickly reorder items after sort.
369       mSortingHelper[ index ].renderItem = &item;
370     }
371   }
372
373   // Here we determine which comparitor (of the 3) to use.
374   //   0 is LAYER_UI
375   //   1 is LAYER_3D
376   //   2 is LAYER_3D + Clipping
377   const unsigned int comparitorIndex = layer.GetBehavior() == Dali::Layer::LAYER_3D ? respectClippingOrder ? 2u : 1u : 0u;
378
379   std::stable_sort( mSortingHelper.begin(), mSortingHelper.end(), mSortComparitors[ comparitorIndex ] );
380
381   // Reorder / re-populate the RenderItems in the RenderList to correct order based on the sortinghelper.
382   DALI_LOG_INFO( gRenderListLogFilter, Debug::Verbose, "Sorted Transparent List:\n");
383   RenderItemContainer::Iterator renderListIter = renderList.GetContainer().Begin();
384   for( unsigned int index = 0; index < renderableCount; ++index, ++renderListIter )
385   {
386     *renderListIter = mSortingHelper[ index ].renderItem;
387     DALI_LOG_INFO( gRenderListLogFilter, Debug::Verbose, "  sortedList[%d] = %p\n", index, mSortingHelper[ index ].renderItem->mRenderer);
388   }
389 }
390
391 void RenderInstructionProcessor::Prepare( BufferIndex updateBufferIndex,
392                                           SortedLayerPointers& sortedLayers,
393                                           RenderTask& renderTask,
394                                           bool cull,
395                                           bool hasClippingNodes,
396                                           RenderInstructionContainer& instructions )
397 {
398   // Retrieve the RenderInstruction buffer from the RenderInstructionContainer
399   // then populate with instructions.
400   RenderInstruction& instruction = instructions.GetNextInstruction( updateBufferIndex );
401   renderTask.PrepareRenderInstruction( instruction, updateBufferIndex );
402   bool viewMatrixHasNotChanged = !renderTask.ViewMatrixUpdated();
403   bool isRenderListAdded = false;
404
405   const Matrix& viewMatrix = renderTask.GetViewMatrix( updateBufferIndex );
406   SceneGraph::Camera& camera = renderTask.GetCamera();
407
408   const SortedLayersIter endIter = sortedLayers.end();
409   for( SortedLayersIter iter = sortedLayers.begin(); iter != endIter; ++iter )
410   {
411     Layer& layer = **iter;
412     const bool tryReuseRenderList( viewMatrixHasNotChanged && layer.CanReuseRenderers( &renderTask.GetCamera() ) );
413     const bool isLayer3D = layer.GetBehavior() == Dali::Layer::LAYER_3D;
414     RenderList* renderList = NULL;
415
416     if( !layer.colorRenderables.Empty() )
417     {
418       RenderableContainer& renderables = layer.colorRenderables;
419
420       if( !SetupRenderList( renderables, layer, instruction, tryReuseRenderList, &renderList ) )
421       {
422         renderList->SetHasColorRenderItems( true );
423         AddRenderersToRenderList( updateBufferIndex,
424                                   *renderList,
425                                   renderables,
426                                   viewMatrix,
427                                   camera,
428                                   isLayer3D,
429                                   cull );
430
431         // We only use the clipping version of the sort comparitor if any clipping nodes exist within the RenderList.
432         SortRenderItems( updateBufferIndex, *renderList, layer, hasClippingNodes );
433       }
434
435       isRenderListAdded = true;
436     }
437
438     if( !layer.overlayRenderables.Empty() )
439     {
440       RenderableContainer& renderables = layer.overlayRenderables;
441
442       if( !SetupRenderList( renderables, layer, instruction, tryReuseRenderList, &renderList ) )
443       {
444         renderList->SetHasColorRenderItems( false );
445         AddRenderersToRenderList( updateBufferIndex,
446                                   *renderList,
447                                   renderables,
448                                   viewMatrix,
449                                   camera,
450                                   isLayer3D,
451                                   cull );
452
453         // Clipping hierarchy is irrelevant when sorting overlay items, so we specify using the non-clipping version of the sort comparitor.
454         SortRenderItems( updateBufferIndex, *renderList, layer, false );
455       }
456
457       isRenderListAdded = true;
458     }
459   }
460
461   // Inform the render instruction that all renderers have been added and this frame is complete.
462   instruction.UpdateCompleted();
463
464   if( !isRenderListAdded && !instruction.mIsClearColorSet )
465   {
466     instructions.DiscardCurrentInstruction( updateBufferIndex );
467   }
468 }
469
470 } // SceneGraph
471
472 } // Internal
473
474 } // Dali