winsys/radeon: move managing GEM domains back to drivers
[profile/ivi/mesa.git] / src / gallium / drivers / r300 / r300_context.h
1 /*
2  * Copyright 2008 Corbin Simpson <MostAwesomeDude@gmail.com>
3  *
4  * Permission is hereby granted, free of charge, to any person obtaining a
5  * copy of this software and associated documentation files (the "Software"),
6  * to deal in the Software without restriction, including without limitation
7  * on the rights to use, copy, modify, merge, publish, distribute, sub
8  * license, and/or sell copies of the Software, and to permit persons to whom
9  * the Software is furnished to do so, subject to the following conditions:
10  *
11  * The above copyright notice and this permission notice (including the next
12  * paragraph) shall be included in all copies or substantial portions of the
13  * Software.
14  *
15  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
16  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
17  * FITNESS FOR A PARTICULAR PURPOSE AND NON-INFRINGEMENT. IN NO EVENT SHALL
18  * THE AUTHOR(S) AND/OR THEIR SUPPLIERS BE LIABLE FOR ANY CLAIM,
19  * DAMAGES OR OTHER LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR
20  * OTHERWISE, ARISING FROM, OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE
21  * USE OR OTHER DEALINGS IN THE SOFTWARE. */
22
23 #ifndef R300_CONTEXT_H
24 #define R300_CONTEXT_H
25
26 #include "draw/draw_vertex.h"
27
28 #include "util/u_blitter.h"
29
30 #include "pipe/p_context.h"
31 #include "util/u_inlines.h"
32 #include "util/u_transfer.h"
33 #include "util/u_vbuf.h"
34
35 #include "r300_defines.h"
36 #include "r300_screen.h"
37 #include "../../winsys/radeon/drm/radeon_winsys.h"
38
39 struct u_upload_mgr;
40 struct r300_context;
41 struct r300_fragment_shader;
42 struct r300_vertex_shader;
43 struct r300_stencilref_context;
44
45 struct r300_atom {
46     /* Name, for debugging. */
47     const char* name;
48     /* Opaque state. */
49     void* state;
50     /* Emit the state to the context. */
51     void (*emit)(struct r300_context*, unsigned, void*);
52     /* Upper bound on number of dwords to emit. */
53     unsigned size;
54     /* Whether this atom should be emitted. */
55     boolean dirty;
56     /* Whether this atom may be emitted with state == NULL. */
57     boolean allow_null_state;
58 };
59
60 struct r300_aa_state {
61     struct r300_surface *dest;
62
63     uint32_t aa_config;
64     uint32_t aaresolve_ctl;
65 };
66
67 struct r300_blend_state {
68     struct pipe_blend_state state;
69
70     uint32_t cb_clamp[8];
71     uint32_t cb_noclamp[8];
72     uint32_t cb_no_readwrite[8];
73 };
74
75 struct r300_blend_color_state {
76     struct pipe_blend_color state;
77     uint32_t cb[3];
78 };
79
80 struct r300_clip_state {
81     struct pipe_clip_state clip;
82
83     uint32_t cb[29];
84 };
85
86 struct r300_dsa_state {
87     struct pipe_depth_stencil_alpha_state dsa;
88
89     /* This is actually a command buffer with named dwords. */
90     uint32_t cb_begin;
91     uint32_t alpha_function;    /* R300_FG_ALPHA_FUNC: 0x4bd4 */
92     uint32_t cb_reg_seq;
93     uint32_t z_buffer_control;  /* R300_ZB_CNTL: 0x4f00 */
94     uint32_t z_stencil_control; /* R300_ZB_ZSTENCILCNTL: 0x4f04 */
95     uint32_t stencil_ref_mask;  /* R300_ZB_STENCILREFMASK: 0x4f08 */
96     uint32_t cb_reg;
97     uint32_t stencil_ref_bf;    /* R500_ZB_STENCILREFMASK_BF: 0x4fd4 */
98     uint32_t cb_reg1;
99     uint32_t alpha_value;       /* R500_FG_ALPHA_VALUE: 0x4be0 */
100
101     /* The same, but for FP16 alpha test. */
102     uint32_t cb_begin_fp16;
103     uint32_t alpha_function_fp16;    /* R300_FG_ALPHA_FUNC: 0x4bd4 */
104     uint32_t cb_reg_seq_fp16;
105     uint32_t z_buffer_control_fp16;  /* R300_ZB_CNTL: 0x4f00 */
106     uint32_t z_stencil_control_fp16; /* R300_ZB_ZSTENCILCNTL: 0x4f04 */
107     uint32_t stencil_ref_mask_fp16;  /* R300_ZB_STENCILREFMASK: 0x4f08 */
108     uint32_t cb_reg_fp16;
109     uint32_t stencil_ref_bf_fp16;    /* R500_ZB_STENCILREFMASK_BF: 0x4fd4 */
110     uint32_t cb_reg1_fp16;
111     uint32_t alpha_value_fp16;       /* R500_FG_ALPHA_VALUE: 0x4be0 */
112
113     /* The second command buffer disables zbuffer reads and writes. */
114     uint32_t cb_zb_no_readwrite[10];
115     uint32_t cb_fp16_zb_no_readwrite[10];
116
117     /* Whether a two-sided stencil is enabled. */
118     boolean two_sided;
119     /* Whether a fallback should be used for a two-sided stencil ref value. */
120     boolean two_sided_stencil_ref;
121 };
122
123 struct r300_hyperz_state {
124     int flush;
125     /* This is actually a command buffer with named dwords. */
126     uint32_t cb_flush_begin;
127     uint32_t zb_zcache_ctlstat;     /* R300_ZB_CACHE_CNTL */
128     uint32_t cb_begin;
129     uint32_t zb_bw_cntl;            /* R300_ZB_BW_CNTL */
130     uint32_t cb_reg1;
131     uint32_t zb_depthclearvalue;    /* R300_ZB_DEPTHCLEARVALUE */
132     uint32_t cb_reg2;
133     uint32_t sc_hyperz;             /* R300_SC_HYPERZ */
134     uint32_t cb_reg3;
135     uint32_t gb_z_peq_config;       /* R300_GB_Z_PEQ_CONFIG: 0x4028 */
136 };
137
138 struct r300_gpu_flush {
139     uint32_t cb_flush_clean[6];
140 };
141
142 #define RS_STATE_MAIN_SIZE 25
143
144 struct r300_rs_state {
145     /* Original rasterizer state. */
146     struct pipe_rasterizer_state rs;
147     /* Draw-specific rasterizer state. */
148     struct pipe_rasterizer_state rs_draw;
149
150     /* Command buffers. */
151     uint32_t cb_main[RS_STATE_MAIN_SIZE];
152     uint32_t cb_poly_offset_zb16[5];
153     uint32_t cb_poly_offset_zb24[5];
154
155     /* The index to cb_main where the cull_mode register value resides. */
156     unsigned cull_mode_index;
157
158     /* Whether polygon offset is enabled. */
159     boolean polygon_offset_enable;
160
161     /* This is emitted in the draw function. */
162     uint32_t color_control;         /* R300_GA_COLOR_CONTROL: 0x4278 */
163 };
164
165 struct r300_rs_block {
166     uint32_t vap_vtx_state_cntl;  /* R300_VAP_VTX_STATE_CNTL: 0x2180 */
167     uint32_t vap_vsm_vtx_assm;    /* R300_VAP_VSM_VTX_ASSM: 0x2184 */
168     uint32_t vap_out_vtx_fmt[2];  /* R300_VAP_OUTPUT_VTX_FMT_[0-1]: 0x2090 */
169     uint32_t gb_enable;
170
171     uint32_t ip[8]; /* R300_RS_IP_[0-7], R500_RS_IP_[0-7] */
172     uint32_t count; /* R300_RS_COUNT */
173     uint32_t inst_count; /* R300_RS_INST_COUNT */
174     uint32_t inst[8]; /* R300_RS_INST_[0-7] */
175 };
176
177 struct r300_sampler_state {
178     struct pipe_sampler_state state;
179
180     uint32_t filter0;      /* R300_TX_FILTER0: 0x4400 */
181     uint32_t filter1;      /* R300_TX_FILTER1: 0x4440 */
182
183     /* Min/max LOD must be clamped to [0, last_level], thus
184      * it's dependent on a currently bound texture */
185     unsigned min_lod, max_lod;
186 };
187
188 struct r300_texture_format_state {
189     uint32_t format0; /* R300_TX_FORMAT0: 0x4480 */
190     uint32_t format1; /* R300_TX_FORMAT1: 0x44c0 */
191     uint32_t format2; /* R300_TX_FORMAT2: 0x4500 */
192     uint32_t tile_config; /* R300_TX_OFFSET (subset thereof) */
193     uint32_t us_format0;   /* R500_US_FORMAT0_0: 0x4640 (through 15) */
194 };
195
196 struct r300_sampler_view {
197     struct pipe_sampler_view base;
198
199     /* Swizzles in the UTIL_FORMAT_SWIZZLE_* representation,
200      * derived from base. */
201     unsigned char swizzle[4];
202
203     /* Copy of r300_texture::texture_format_state with format-specific bits
204      * added. */
205     struct r300_texture_format_state format;
206
207     /* The texture cache region for this texture. */
208     uint32_t texcache_region;
209 };
210
211 struct r300_texture_sampler_state {
212     struct r300_texture_format_state format;
213     uint32_t filter0;      /* R300_TX_FILTER0: 0x4400 */
214     uint32_t filter1;      /* R300_TX_FILTER1: 0x4440 */
215     uint32_t border_color; /* R300_TX_BORDER_COLOR: 0x45c0 */
216 };
217
218 struct r300_textures_state {
219     /* Textures. */
220     struct r300_sampler_view *sampler_views[16];
221     int sampler_view_count;
222     /* Sampler states. */
223     struct r300_sampler_state *sampler_states[16];
224     int sampler_state_count;
225
226     /* This is the merge of the texture and sampler states. */
227     unsigned count;
228     uint32_t tx_enable;         /* R300_TX_ENABLE: 0x4101 */
229     struct r300_texture_sampler_state regs[16];
230 };
231
232 struct r300_vertex_stream_state {
233     /* R300_VAP_PROG_STREAK_CNTL_[0-7] */
234     uint32_t vap_prog_stream_cntl[8];
235     /* R300_VAP_PROG_STREAK_CNTL_EXT_[0-7] */
236     uint32_t vap_prog_stream_cntl_ext[8];
237
238     unsigned count;
239 };
240
241 struct r300_invariant_state {
242     uint32_t cb[24];
243 };
244
245 struct r300_vap_invariant_state {
246     uint32_t cb[11];
247 };
248
249 struct r300_viewport_state {
250     float xscale;         /* R300_VAP_VPORT_XSCALE:  0x2098 */
251     float xoffset;        /* R300_VAP_VPORT_XOFFSET: 0x209c */
252     float yscale;         /* R300_VAP_VPORT_YSCALE:  0x20a0 */
253     float yoffset;        /* R300_VAP_VPORT_YOFFSET: 0x20a4 */
254     float zscale;         /* R300_VAP_VPORT_ZSCALE:  0x20a8 */
255     float zoffset;        /* R300_VAP_VPORT_ZOFFSET: 0x20ac */
256     uint32_t vte_control; /* R300_VAP_VTE_CNTL:      0x20b0 */
257 };
258
259 struct r300_ztop_state {
260     uint32_t z_buffer_top;      /* R300_ZB_ZTOP: 0x4f14 */
261 };
262
263 /* The next several objects are not pure Radeon state; they inherit from
264  * various Gallium classes. */
265
266 struct r300_constant_buffer {
267     /* Buffer of constants */
268     uint32_t *ptr;
269     /* Remapping table. */
270     unsigned *remap_table;
271     /* const buffer base */
272     uint32_t buffer_base;
273 };
274
275 /* Query object.
276  *
277  * This is not a subclass of pipe_query because pipe_query is never
278  * actually fully defined. So, rather than have it as a member, and do
279  * subclass-style casting, we treat pipe_query as an opaque, and just
280  * trust that our state tracker does not ever mess up query objects.
281  */
282 struct r300_query {
283     /* The kind of query. Currently only OQ is supported. */
284     unsigned type;
285     /* The number of pipes where query results are stored. */
286     unsigned num_pipes;
287     /* How many results have been written, in dwords. It's incremented
288      * after end_query and flush. */
289     unsigned num_results;
290     /* if begin has been emitted */
291     boolean begin_emitted;
292
293     /* The buffer where query results are stored. */
294     struct pb_buffer *buf;
295     struct radeon_winsys_cs_handle *cs_buf;
296 };
297
298 struct r300_surface {
299     struct pipe_surface base;
300
301     /* Winsys buffer backing the texture. */
302     struct pb_buffer *buf;
303     struct radeon_winsys_cs_handle *cs_buf;
304
305     enum radeon_bo_domain domain;
306
307     uint32_t offset;    /* COLOROFFSET or DEPTHOFFSET. */
308     uint32_t pitch;     /* COLORPITCH or DEPTHPITCH. */
309     uint32_t pitch_zmask; /* ZMASK_PITCH */
310     uint32_t pitch_hiz;   /* HIZ_PITCH */
311     uint32_t format;    /* US_OUT_FMT or ZB_FORMAT. */
312
313     /* Parameters dedicated to the CBZB clear. */
314     uint32_t cbzb_width;            /* Aligned width. */
315     uint32_t cbzb_height;           /* Half of the height. */
316     uint32_t cbzb_midpoint_offset;  /* DEPTHOFFSET. */
317     uint32_t cbzb_pitch;            /* DEPTHPITCH. */
318     uint32_t cbzb_format;           /* ZB_FORMAT. */
319
320     /* Whether the CBZB clear is allowed on the surface. */
321     boolean cbzb_allowed;
322 };
323
324 struct r300_texture_desc {
325     /* Width, height, and depth.
326      * Most of the time, these are equal to pipe_texture::width0, height0,
327      * and depth0. However, NPOT 3D textures must have dimensions aligned
328      * to POT, and this is the only case when these variables differ from
329      * pipe_texture. */
330     unsigned width0, height0, depth0;
331
332     /* Buffer tiling.
333      * Macrotiling is specified per-level because small mipmaps cannot
334      * be macrotiled. */
335     enum radeon_bo_layout microtile;
336     enum radeon_bo_layout macrotile[R300_MAX_TEXTURE_LEVELS];
337
338     /* Offsets into the buffer. */
339     unsigned offset_in_bytes[R300_MAX_TEXTURE_LEVELS];
340
341     /* Strides for each mip-level. */
342     unsigned stride_in_pixels[R300_MAX_TEXTURE_LEVELS];
343     unsigned stride_in_bytes[R300_MAX_TEXTURE_LEVELS];
344
345     /* Size of one zslice or face or 2D image based on the texture target. */
346     unsigned layer_size_in_bytes[R300_MAX_TEXTURE_LEVELS];
347
348     /* Total size of this texture, in bytes,
349      * derived from the texture properties. */
350     unsigned size_in_bytes;
351
352     /**
353      * If non-zero, override the natural texture layout with
354      * a custom stride (in bytes).
355      *
356      * \note Mipmapping fails for textures with a non-natural layout!
357      *
358      * \sa r300_texture_get_stride
359      */
360     unsigned stride_in_bytes_override;
361
362     /* Whether this texture has non-power-of-two dimensions.
363      * It can be either a regular texture or a rectangle one. */
364     boolean is_npot;
365
366     /* This flag says that hardware must use the stride for addressing
367      * instead of the width. */
368     boolean uses_stride_addressing;
369
370     /* Whether CBZB fast color clear is allowed on the miplevel. */
371     boolean cbzb_allowed[R300_MAX_TEXTURE_LEVELS];
372
373     /* Zbuffer compression info for each miplevel. */
374     boolean zcomp8x8[R300_MAX_TEXTURE_LEVELS];
375     /* If zero, then disable Z compression/HiZ. */
376     unsigned zmask_dwords[R300_MAX_TEXTURE_LEVELS];
377     unsigned hiz_dwords[R300_MAX_TEXTURE_LEVELS];
378     /* Zmask/HiZ strides for each miplevel. */
379     unsigned zmask_stride_in_pixels[R300_MAX_TEXTURE_LEVELS];
380     unsigned hiz_stride_in_pixels[R300_MAX_TEXTURE_LEVELS];
381 };
382
383 struct r300_resource
384 {
385     struct u_vbuf_resource b;
386
387     /* Winsys buffer backing this resource. */
388     struct pb_buffer *buf;
389     struct radeon_winsys_cs_handle *cs_buf;
390     enum radeon_bo_domain domain;
391
392     /* Constant buffers are in user memory. */
393     uint8_t *constant_buffer;
394
395     /* Texture description (addressing, layout, special features). */
396     struct r300_texture_desc tex;
397
398     /* Registers carrying texture format data. */
399     /* Only format-independent bits should be filled in. */
400     struct r300_texture_format_state tx_format;
401
402     /* This is the level tiling flags were last time set for.
403      * It's used to prevent redundant tiling-flags changes from happening.*/
404     unsigned surface_level;
405 };
406
407 struct r300_vertex_element_state {
408     unsigned count;
409     struct pipe_vertex_element velem[PIPE_MAX_ATTRIBS];
410     unsigned format_size[PIPE_MAX_ATTRIBS];
411
412     struct u_vbuf_elements *vmgr_elements;
413
414     /* The size of the vertex, in dwords. */
415     unsigned vertex_size_dwords;
416
417     struct r300_vertex_stream_state vertex_stream;
418 };
419
420 enum r300_hiz_func {
421     HIZ_FUNC_NONE,
422
423     /* The function, when determined, is set in stone
424      * until the next HiZ clear. */
425
426     /* MAX is written to the HiZ buffer.
427      * Used for LESS, LEQUAL. */
428     HIZ_FUNC_MAX,
429
430     /* MIN is written to the HiZ buffer.
431      * Used for GREATER, GEQUAL. */
432     HIZ_FUNC_MIN,
433 };
434
435 /* For deferred fragment shader state validation. */
436 enum r300_fs_validity_status {
437     FRAGMENT_SHADER_VALID,      /* No need to change/validate the FS. */
438     FRAGMENT_SHADER_MAYBE_DIRTY,/* Validate the FS if external state was changed. */
439     FRAGMENT_SHADER_DIRTY       /* Always validate the FS (if the FS was changed) */
440 };
441
442 struct r300_context {
443     /* Parent class */
444     struct pipe_context context;
445
446     /* The interface to the windowing system, etc. */
447     struct radeon_winsys *rws;
448     /* The command stream. */
449     struct radeon_winsys_cs *cs;
450     /* Screen. */
451     struct r300_screen *screen;
452
453     /* Draw module. Used mostly for SW TCL. */
454     struct draw_context* draw;
455     /* Vertex buffer for SW TCL. */
456     struct pipe_resource* vbo;
457     /* Offset and size into the SW TCL VBO. */
458     size_t draw_vbo_offset;
459     size_t draw_vbo_size;
460     /* Whether the VBO must not be flushed. */
461     boolean draw_vbo_locked;
462     boolean draw_first_emitted;
463
464     /* Accelerated blit support. */
465     struct blitter_context* blitter;
466     /* Stencil two-sided reference value fallback. */
467     struct r300_stencilref_context *stencilref_fallback;
468
469     /* The KIL opcode needs the first texture unit to be enabled
470      * on r3xx-r4xx. In order to calm down the CS checker, we bind this
471      * dummy texture there. */
472     struct r300_sampler_view *texkill_sampler;
473
474     /* When no vertex buffer is set, this one is used instead to prevent
475      * hardlocks. */
476     struct pipe_resource *dummy_vb;
477
478     /* The currently active query. */
479     struct r300_query *query_current;
480     /* The saved query for blitter operations. */
481     struct r300_query *blitter_saved_query;
482     /* Query list. */
483     struct r300_query query_list;
484
485     /* Various CSO state objects. */
486
487     /* Each atom is emitted in the order it appears here, which can affect
488      * performance and stability if not handled with care. */
489     /* GPU flush. */
490     struct r300_atom gpu_flush;
491     /* Anti-aliasing (MSAA) state. */
492     struct r300_atom aa_state;
493     /* Framebuffer state. */
494     struct r300_atom fb_state;
495     /* HyperZ state (various SC/ZB bits). */
496     struct r300_atom hyperz_state;
497     /* ZTOP state. */
498     struct r300_atom ztop_state;
499     /* Depth, stencil, and alpha state. */
500     struct r300_atom dsa_state;
501     /* Blend state. */
502     struct r300_atom blend_state;
503     /* Blend color state. */
504     struct r300_atom blend_color_state;
505     /* Scissor state. */
506     struct r300_atom scissor_state;
507     /* Invariant state. This must be emitted to get the engine started. */
508     struct r300_atom invariant_state;
509     /* Viewport state. */
510     struct r300_atom viewport_state;
511     /* PVS flush. */
512     struct r300_atom pvs_flush;
513     /* VAP invariant state. */
514     struct r300_atom vap_invariant_state;
515     /* Vertex stream formatting state. */
516     struct r300_atom vertex_stream_state;
517     /* Vertex shader. */
518     struct r300_atom vs_state;
519     /* User clip planes. */
520     struct r300_atom clip_state;
521     /* RS block state + VAP (vertex shader) output mapping state. */
522     struct r300_atom rs_block_state;
523     /* Rasterizer state. */
524     struct r300_atom rs_state;
525     /* Framebuffer state (pipelined regs). */
526     struct r300_atom fb_state_pipelined;
527     /* Fragment shader. */
528     struct r300_atom fs;
529     /* Fragment shader RC_CONSTANT_STATE variables. */
530     struct r300_atom fs_rc_constant_state;
531     /* Fragment shader constant buffer. */
532     struct r300_atom fs_constants;
533     /* Vertex shader constant buffer. */
534     struct r300_atom vs_constants;
535     /* Texture cache invalidate. */
536     struct r300_atom texture_cache_inval;
537     /* Textures state. */
538     struct r300_atom textures_state;
539     /* HiZ clear */
540     struct r300_atom hiz_clear;
541     /* zmask clear */
542     struct r300_atom zmask_clear;
543     /* Occlusion query. */
544     struct r300_atom query_start;
545
546     /* The pointers to the first and the last atom. */
547     struct r300_atom *first_dirty, *last_dirty;
548
549     /* Vertex elements for Gallium. */
550     struct r300_vertex_element_state *velems;
551
552     /* Vertex info for Draw. */
553     struct vertex_info vertex_info;
554
555     struct pipe_stencil_ref stencil_ref;
556     struct pipe_viewport_state viewport;
557
558     /* Stream locations for SWTCL. */
559     int stream_loc_notcl[16];
560
561     /* Flag indicating whether or not the HW is dirty. */
562     uint32_t dirty_hw;
563     /* Whether polygon offset is enabled. */
564     boolean polygon_offset_enabled;
565     /* Z buffer bit depth. */
566     uint32_t zbuffer_bpp;
567     /* Whether rendering is conditional and should be skipped. */
568     boolean skip_rendering;
569     /* The flag above saved by blitter. */
570     unsigned char blitter_saved_skip_rendering;
571     /* Point sprites texcoord index,  1 bit per texcoord */
572     int sprite_coord_enable;
573     /* Whether two-sided color selection is enabled (AKA light_twoside). */
574     boolean two_sided_color;
575     /* Whether fragment color clamping is enabled. */
576     boolean frag_clamp;
577     /* Whether fast color clear is enabled. */
578     boolean cbzb_clear;
579     /* Whether fragment shader needs to be validated. */
580     enum r300_fs_validity_status fs_status;
581     /* Framebuffer multi-write. */
582     boolean fb_multiwrite;
583
584     void *dsa_decompress_zmask;
585
586     struct u_vbuf *vbuf_mgr;
587
588     struct util_slab_mempool pool_transfers;
589
590     /* Stat counter. */
591     uint64_t flush_counter;
592
593     /* const tracking for VS */
594     int vs_const_base;
595
596     /* Vertex array state info */
597     boolean vertex_arrays_dirty;
598     boolean vertex_arrays_indexed;
599     int vertex_arrays_offset;
600     int vertex_arrays_instance_id;
601     boolean instancing_enabled;
602
603     /* Hyper-Z stats. */
604     boolean hyperz_enabled;     /* Whether it owns Hyper-Z access. */
605     int64_t hyperz_time_of_last_flush; /* Time of the last flush with Z clear. */
606     unsigned num_z_clears;      /* Since the last flush. */
607
608     /* ZMask state. */
609     boolean zmask_in_use;       /* Whether ZMASK is enabled. */
610     boolean zmask_decompress;   /* Whether ZMASK is being decompressed. */
611     struct pipe_surface *locked_zbuffer; /* Unbound zbuffer which still has data in ZMASK. */
612
613     /* HiZ state. */
614     boolean hiz_in_use;         /* Whether HIZ is enabled. */
615     enum r300_hiz_func hiz_func; /* HiZ function. Can be either MIN or MAX. */
616     uint32_t hiz_clear_value;   /* HiZ clear value. */
617 };
618
619 #define foreach_atom(r300, atom) \
620     for (atom = &r300->gpu_flush; atom != (&r300->query_start)+1; atom++)
621
622 #define foreach_dirty_atom(r300, atom) \
623     for (atom = r300->first_dirty; atom != r300->last_dirty; atom++)
624
625 /* Convenience cast wrappers. */
626 static INLINE struct r300_query* r300_query(struct pipe_query* q)
627 {
628     return (struct r300_query*)q;
629 }
630
631 static INLINE struct r300_surface* r300_surface(struct pipe_surface* surf)
632 {
633     return (struct r300_surface*)surf;
634 }
635
636 static INLINE struct r300_resource* r300_resource(struct pipe_resource* tex)
637 {
638     return (struct r300_resource*)tex;
639 }
640
641 static INLINE struct r300_context* r300_context(struct pipe_context* context)
642 {
643     return (struct r300_context*)context;
644 }
645
646 static INLINE struct r300_fragment_shader *r300_fs(struct r300_context *r300)
647 {
648     return (struct r300_fragment_shader*)r300->fs.state;
649 }
650
651 static INLINE void r300_mark_atom_dirty(struct r300_context *r300,
652                                         struct r300_atom *atom)
653 {
654     atom->dirty = TRUE;
655
656     if (!r300->first_dirty) {
657         r300->first_dirty = atom;
658         r300->last_dirty = atom+1;
659     } else {
660         if (atom < r300->first_dirty)
661             r300->first_dirty = atom;
662         else if (atom+1 > r300->last_dirty)
663             r300->last_dirty = atom+1;
664     }
665 }
666
667 struct pipe_context* r300_create_context(struct pipe_screen* screen,
668                                          void *priv);
669
670 /* Context initialization. */
671 struct draw_stage* r300_draw_stage(struct r300_context* r300);
672 void r300_init_blit_functions(struct r300_context *r300);
673 void r300_init_flush_functions(struct r300_context* r300);
674 void r300_init_query_functions(struct r300_context* r300);
675 void r300_init_render_functions(struct r300_context *r300);
676 void r300_init_state_functions(struct r300_context* r300);
677 void r300_init_resource_functions(struct r300_context* r300);
678
679 /* r300_blit.c */
680 void r300_decompress_zmask(struct r300_context *r300);
681 void r300_decompress_zmask_locked_unsafe(struct r300_context *r300);
682 void r300_decompress_zmask_locked(struct r300_context *r300);
683
684 /* r300_flush.c */
685 void r300_flush(struct pipe_context *pipe,
686                 unsigned flags,
687                 struct pipe_fence_handle **fence);
688
689 /* r300_hyperz.c */
690 void r300_update_hyperz_state(struct r300_context* r300);
691
692 /* r300_query.c */
693 void r300_resume_query(struct r300_context *r300,
694                        struct r300_query *query);
695 void r300_stop_query(struct r300_context *r300);
696
697 /* r300_render_translate.c */
698 void r300_translate_index_buffer(struct r300_context *r300,
699                                  struct pipe_resource **index_buffer,
700                                  unsigned *index_size, unsigned index_offset,
701                                  unsigned *start, unsigned count);
702
703 /* r300_render_stencilref.c */
704 void r300_plug_in_stencil_ref_fallback(struct r300_context *r300);
705
706 /* r300_render.c */
707 void r300_draw_flush_vbuf(struct r300_context *r300);
708 void r500_emit_index_bias(struct r300_context *r300, int index_bias);
709
710 /* r300_state.c */
711 enum r300_fb_state_change {
712     R300_CHANGED_FB_STATE = 0,
713     R300_CHANGED_HYPERZ_FLAG,
714     R300_CHANGED_MULTIWRITE
715 };
716
717 void r300_mark_fb_state_dirty(struct r300_context *r300,
718                               enum r300_fb_state_change change);
719 void r300_mark_fs_code_dirty(struct r300_context *r300);
720
721 /* r300_state_derived.c */
722 void r300_update_derived_state(struct r300_context* r300);
723
724 /* r300_debug.c */
725 void r500_dump_rs_block(struct r300_rs_block *rs);
726
727
728 static INLINE boolean CTX_DBG_ON(struct r300_context * ctx, unsigned flags)
729 {
730     return SCREEN_DBG_ON(ctx->screen, flags);
731 }
732
733 static INLINE void CTX_DBG(struct r300_context * ctx, unsigned flags,
734                        const char * fmt, ...)
735 {
736     if (CTX_DBG_ON(ctx, flags)) {
737         va_list va;
738         va_start(va, fmt);
739         vfprintf(stderr, fmt, va);
740         va_end(va);
741     }
742 }
743
744 #define DBG_ON  CTX_DBG_ON
745 #define DBG     CTX_DBG
746
747 #endif /* R300_CONTEXT_H */