Merge remote branch 'origin/master' into pipe-video
[profile/ivi/mesa.git] / src / gallium / drivers / r300 / r300_context.h
1 /*
2  * Copyright 2008 Corbin Simpson <MostAwesomeDude@gmail.com>
3  *
4  * Permission is hereby granted, free of charge, to any person obtaining a
5  * copy of this software and associated documentation files (the "Software"),
6  * to deal in the Software without restriction, including without limitation
7  * on the rights to use, copy, modify, merge, publish, distribute, sub
8  * license, and/or sell copies of the Software, and to permit persons to whom
9  * the Software is furnished to do so, subject to the following conditions:
10  *
11  * The above copyright notice and this permission notice (including the next
12  * paragraph) shall be included in all copies or substantial portions of the
13  * Software.
14  *
15  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
16  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
17  * FITNESS FOR A PARTICULAR PURPOSE AND NON-INFRINGEMENT. IN NO EVENT SHALL
18  * THE AUTHOR(S) AND/OR THEIR SUPPLIERS BE LIABLE FOR ANY CLAIM,
19  * DAMAGES OR OTHER LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR
20  * OTHERWISE, ARISING FROM, OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE
21  * USE OR OTHER DEALINGS IN THE SOFTWARE. */
22
23 #ifndef R300_CONTEXT_H
24 #define R300_CONTEXT_H
25
26 #include "draw/draw_vertex.h"
27
28 #include "util/u_blitter.h"
29
30 #include "pipe/p_context.h"
31 #include "util/u_inlines.h"
32 #include "util/u_transfer.h"
33 #include "util/u_vbuf_mgr.h"
34
35 #include "r300_defines.h"
36 #include "r300_screen.h"
37 #include "r300_winsys.h"
38
39 struct u_upload_mgr;
40 struct r300_context;
41 struct r300_fragment_shader;
42 struct r300_vertex_shader;
43 struct r300_stencilref_context;
44
45 struct r300_atom {
46     /* Name, for debugging. */
47     const char* name;
48     /* Opaque state. */
49     void* state;
50     /* Emit the state to the context. */
51     void (*emit)(struct r300_context*, unsigned, void*);
52     /* Upper bound on number of dwords to emit. */
53     unsigned size;
54     /* Whether this atom should be emitted. */
55     boolean dirty;
56     /* Whether this atom may be emitted with state == NULL. */
57     boolean allow_null_state;
58 };
59
60 struct r300_aa_state {
61     struct r300_surface *dest;
62
63     uint32_t aa_config;
64     uint32_t aaresolve_ctl;
65 };
66
67 struct r300_blend_state {
68     struct pipe_blend_state state;
69
70     uint32_t cb_clamp[8];
71     uint32_t cb_noclamp[8];
72     uint32_t cb_no_readwrite[8];
73 };
74
75 struct r300_blend_color_state {
76     struct pipe_blend_color state;
77     uint32_t cb[3];
78 };
79
80 struct r300_clip_state {
81     struct pipe_clip_state clip;
82
83     uint32_t cb[29];
84 };
85
86 struct r300_dsa_state {
87     struct pipe_depth_stencil_alpha_state dsa;
88
89     /* This is actually a command buffer with named dwords. */
90     uint32_t cb_begin;
91     uint32_t alpha_function;    /* R300_FG_ALPHA_FUNC: 0x4bd4 */
92     uint32_t cb_reg_seq;
93     uint32_t z_buffer_control;  /* R300_ZB_CNTL: 0x4f00 */
94     uint32_t z_stencil_control; /* R300_ZB_ZSTENCILCNTL: 0x4f04 */
95     uint32_t stencil_ref_mask;  /* R300_ZB_STENCILREFMASK: 0x4f08 */
96     uint32_t cb_reg;
97     uint32_t stencil_ref_bf;    /* R500_ZB_STENCILREFMASK_BF: 0x4fd4 */
98     uint32_t cb_reg1;
99     uint32_t alpha_value;       /* R500_FG_ALPHA_VALUE: 0x4be0 */
100
101     /* The same, but for FP16 alpha test. */
102     uint32_t cb_begin_fp16;
103     uint32_t alpha_function_fp16;    /* R300_FG_ALPHA_FUNC: 0x4bd4 */
104     uint32_t cb_reg_seq_fp16;
105     uint32_t z_buffer_control_fp16;  /* R300_ZB_CNTL: 0x4f00 */
106     uint32_t z_stencil_control_fp16; /* R300_ZB_ZSTENCILCNTL: 0x4f04 */
107     uint32_t stencil_ref_mask_fp16;  /* R300_ZB_STENCILREFMASK: 0x4f08 */
108     uint32_t cb_reg_fp16;
109     uint32_t stencil_ref_bf_fp16;    /* R500_ZB_STENCILREFMASK_BF: 0x4fd4 */
110     uint32_t cb_reg1_fp16;
111     uint32_t alpha_value_fp16;       /* R500_FG_ALPHA_VALUE: 0x4be0 */
112
113     /* The second command buffer disables zbuffer reads and writes. */
114     uint32_t cb_zb_no_readwrite[10];
115     uint32_t cb_fp16_zb_no_readwrite[10];
116
117     /* Whether a two-sided stencil is enabled. */
118     boolean two_sided;
119     /* Whether a fallback should be used for a two-sided stencil ref value. */
120     boolean two_sided_stencil_ref;
121 };
122
123 struct r300_hyperz_state {
124     int flush;
125     /* This is actually a command buffer with named dwords. */
126     uint32_t cb_flush_begin;
127     uint32_t zb_zcache_ctlstat;     /* R300_ZB_CACHE_CNTL */
128     uint32_t cb_begin;
129     uint32_t zb_bw_cntl;            /* R300_ZB_BW_CNTL */
130     uint32_t cb_reg1;
131     uint32_t zb_depthclearvalue;    /* R300_ZB_DEPTHCLEARVALUE */
132     uint32_t cb_reg2;
133     uint32_t sc_hyperz;             /* R300_SC_HYPERZ */
134     uint32_t cb_reg3;
135     uint32_t gb_z_peq_config;       /* R300_GB_Z_PEQ_CONFIG: 0x4028 */
136 };
137
138 struct r300_gpu_flush {
139     uint32_t cb_flush_clean[6];
140 };
141
142 #define RS_STATE_MAIN_SIZE 25
143
144 struct r300_rs_state {
145     /* Original rasterizer state. */
146     struct pipe_rasterizer_state rs;
147     /* Draw-specific rasterizer state. */
148     struct pipe_rasterizer_state rs_draw;
149
150     /* Command buffers. */
151     uint32_t cb_main[RS_STATE_MAIN_SIZE];
152     uint32_t cb_poly_offset_zb16[5];
153     uint32_t cb_poly_offset_zb24[5];
154
155     /* The index to cb_main where the cull_mode register value resides. */
156     unsigned cull_mode_index;
157
158     /* Whether polygon offset is enabled. */
159     boolean polygon_offset_enable;
160
161     /* This is emitted in the draw function. */
162     uint32_t color_control;         /* R300_GA_COLOR_CONTROL: 0x4278 */
163 };
164
165 struct r300_rs_block {
166     uint32_t vap_vtx_state_cntl;  /* R300_VAP_VTX_STATE_CNTL: 0x2180 */
167     uint32_t vap_vsm_vtx_assm;    /* R300_VAP_VSM_VTX_ASSM: 0x2184 */
168     uint32_t vap_out_vtx_fmt[2];  /* R300_VAP_OUTPUT_VTX_FMT_[0-1]: 0x2090 */
169     uint32_t gb_enable;
170
171     uint32_t ip[8]; /* R300_RS_IP_[0-7], R500_RS_IP_[0-7] */
172     uint32_t count; /* R300_RS_COUNT */
173     uint32_t inst_count; /* R300_RS_INST_COUNT */
174     uint32_t inst[8]; /* R300_RS_INST_[0-7] */
175 };
176
177 struct r300_sampler_state {
178     struct pipe_sampler_state state;
179
180     uint32_t filter0;      /* R300_TX_FILTER0: 0x4400 */
181     uint32_t filter1;      /* R300_TX_FILTER1: 0x4440 */
182
183     /* Min/max LOD must be clamped to [0, last_level], thus
184      * it's dependent on a currently bound texture */
185     unsigned min_lod, max_lod;
186 };
187
188 struct r300_texture_format_state {
189     uint32_t format0; /* R300_TX_FORMAT0: 0x4480 */
190     uint32_t format1; /* R300_TX_FORMAT1: 0x44c0 */
191     uint32_t format2; /* R300_TX_FORMAT2: 0x4500 */
192     uint32_t tile_config; /* R300_TX_OFFSET (subset thereof) */
193 };
194
195 struct r300_sampler_view {
196     struct pipe_sampler_view base;
197
198     /* Swizzles in the UTIL_FORMAT_SWIZZLE_* representation,
199      * derived from base. */
200     unsigned char swizzle[4];
201
202     /* Copy of r300_texture::texture_format_state with format-specific bits
203      * added. */
204     struct r300_texture_format_state format;
205
206     /* The texture cache region for this texture. */
207     uint32_t texcache_region;
208 };
209
210 struct r300_texture_sampler_state {
211     struct r300_texture_format_state format;
212     uint32_t filter0;      /* R300_TX_FILTER0: 0x4400 */
213     uint32_t filter1;      /* R300_TX_FILTER1: 0x4440 */
214     uint32_t border_color;  /* R300_TX_BORDER_COLOR: 0x45c0 */
215 };
216
217 struct r300_textures_state {
218     /* Textures. */
219     struct r300_sampler_view *sampler_views[16];
220     int sampler_view_count;
221     /* Sampler states. */
222     struct r300_sampler_state *sampler_states[16];
223     int sampler_state_count;
224
225     /* This is the merge of the texture and sampler states. */
226     unsigned count;
227     uint32_t tx_enable;         /* R300_TX_ENABLE: 0x4101 */
228     struct r300_texture_sampler_state regs[16];
229 };
230
231 struct r300_vertex_stream_state {
232     /* R300_VAP_PROG_STREAK_CNTL_[0-7] */
233     uint32_t vap_prog_stream_cntl[8];
234     /* R300_VAP_PROG_STREAK_CNTL_EXT_[0-7] */
235     uint32_t vap_prog_stream_cntl_ext[8];
236
237     unsigned count;
238 };
239
240 struct r300_invariant_state {
241     uint32_t cb[24];
242 };
243
244 struct r300_vap_invariant_state {
245     uint32_t cb[11];
246 };
247
248 struct r300_viewport_state {
249     float xscale;         /* R300_VAP_VPORT_XSCALE:  0x2098 */
250     float xoffset;        /* R300_VAP_VPORT_XOFFSET: 0x209c */
251     float yscale;         /* R300_VAP_VPORT_YSCALE:  0x20a0 */
252     float yoffset;        /* R300_VAP_VPORT_YOFFSET: 0x20a4 */
253     float zscale;         /* R300_VAP_VPORT_ZSCALE:  0x20a8 */
254     float zoffset;        /* R300_VAP_VPORT_ZOFFSET: 0x20ac */
255     uint32_t vte_control; /* R300_VAP_VTE_CNTL:      0x20b0 */
256 };
257
258 struct r300_ztop_state {
259     uint32_t z_buffer_top;      /* R300_ZB_ZTOP: 0x4f14 */
260 };
261
262 /* The next several objects are not pure Radeon state; they inherit from
263  * various Gallium classes. */
264
265 struct r300_constant_buffer {
266     /* Buffer of constants */
267     uint32_t *ptr;
268     /* Remapping table. */
269     unsigned *remap_table;
270     /* const buffer base */
271     uint32_t buffer_base;
272 };
273
274 /* Query object.
275  *
276  * This is not a subclass of pipe_query because pipe_query is never
277  * actually fully defined. So, rather than have it as a member, and do
278  * subclass-style casting, we treat pipe_query as an opaque, and just
279  * trust that our state tracker does not ever mess up query objects.
280  */
281 struct r300_query {
282     /* The kind of query. Currently only OQ is supported. */
283     unsigned type;
284     /* The number of pipes where query results are stored. */
285     unsigned num_pipes;
286     /* How many results have been written, in dwords. It's incremented
287      * after end_query and flush. */
288     unsigned num_results;
289     /* if begin has been emitted */
290     boolean begin_emitted;
291
292     /* The buffer where query results are stored. */
293     struct r300_winsys_bo *buf;
294     struct r300_winsys_cs_handle *cs_buf;
295     /* The size of the buffer. */
296     unsigned buffer_size;
297     /* The domain of the buffer. */
298     enum r300_buffer_domain domain;
299
300     /* Linked list members. */
301     struct r300_query* prev;
302     struct r300_query* next;
303 };
304
305 struct r300_surface {
306     struct pipe_surface base;
307
308     /* Winsys buffer backing the texture. */
309     struct r300_winsys_bo *buf;
310     struct r300_winsys_cs_handle *cs_buf;
311
312     enum r300_buffer_domain domain;
313
314     uint32_t offset;    /* COLOROFFSET or DEPTHOFFSET. */
315     uint32_t pitch;     /* COLORPITCH or DEPTHPITCH. */
316     uint32_t pitch_zmask; /* ZMASK_PITCH */
317     uint32_t pitch_hiz;   /* HIZ_PITCH */
318     uint32_t format;    /* US_OUT_FMT or ZB_FORMAT. */
319
320     /* Parameters dedicated to the CBZB clear. */
321     uint32_t cbzb_width;            /* Aligned width. */
322     uint32_t cbzb_height;           /* Half of the height. */
323     uint32_t cbzb_midpoint_offset;  /* DEPTHOFFSET. */
324     uint32_t cbzb_pitch;            /* DEPTHPITCH. */
325     uint32_t cbzb_format;           /* ZB_FORMAT. */
326
327     /* Whether the CBZB clear is allowed on the surface. */
328     boolean cbzb_allowed;
329 };
330
331 struct r300_texture_desc {
332     /* Width, height, and depth.
333      * Most of the time, these are equal to pipe_texture::width0, height0,
334      * and depth0. However, NPOT 3D textures must have dimensions aligned
335      * to POT, and this is the only case when these variables differ from
336      * pipe_texture. */
337     unsigned width0, height0, depth0;
338
339     /* Buffer tiling.
340      * Macrotiling is specified per-level because small mipmaps cannot
341      * be macrotiled. */
342     enum r300_buffer_tiling microtile;
343     enum r300_buffer_tiling macrotile[R300_MAX_TEXTURE_LEVELS];
344
345     /* Offsets into the buffer. */
346     unsigned offset_in_bytes[R300_MAX_TEXTURE_LEVELS];
347
348     /* Strides for each mip-level. */
349     unsigned stride_in_pixels[R300_MAX_TEXTURE_LEVELS];
350     unsigned stride_in_bytes[R300_MAX_TEXTURE_LEVELS];
351
352     /* Size of one zslice or face or 2D image based on the texture target. */
353     unsigned layer_size_in_bytes[R300_MAX_TEXTURE_LEVELS];
354
355     /* Total size of this texture, in bytes,
356      * derived from the texture properties. */
357     unsigned size_in_bytes;
358
359     /* Total size of the buffer backing this texture, in bytes.
360      * It must be >= size. */
361     unsigned buffer_size_in_bytes;
362
363     /**
364      * If non-zero, override the natural texture layout with
365      * a custom stride (in bytes).
366      *
367      * \note Mipmapping fails for textures with a non-natural layout!
368      *
369      * \sa r300_texture_get_stride
370      */
371     unsigned stride_in_bytes_override;
372
373     /* Whether this texture has non-power-of-two dimensions.
374      * It can be either a regular texture or a rectangle one. */
375     boolean is_npot;
376
377     /* This flag says that hardware must use the stride for addressing
378      * instead of the width. */
379     boolean uses_stride_addressing;
380
381     /* Whether CBZB fast color clear is allowed on the miplevel. */
382     boolean cbzb_allowed[R300_MAX_TEXTURE_LEVELS];
383
384     /* Zbuffer compression info for each miplevel. */
385     boolean zcomp8x8[R300_MAX_TEXTURE_LEVELS];
386     /* If zero, then disable Z compression/HiZ. */
387     unsigned zmask_dwords[R300_MAX_TEXTURE_LEVELS];
388     unsigned hiz_dwords[R300_MAX_TEXTURE_LEVELS];
389     /* Zmask/HiZ strides for each miplevel. */
390     unsigned zmask_stride_in_pixels[R300_MAX_TEXTURE_LEVELS];
391     unsigned hiz_stride_in_pixels[R300_MAX_TEXTURE_LEVELS];
392 };
393
394 struct r300_resource
395 {
396     struct u_vbuf_resource b;
397
398     /* Winsys buffer backing this resource. */
399     struct r300_winsys_bo *buf;
400     struct r300_winsys_cs_handle *cs_buf;
401     enum r300_buffer_domain domain;
402     unsigned buf_size;
403
404     /* Constant buffers are in user memory. */
405     uint8_t *constant_buffer;
406
407     /* Texture description (addressing, layout, special features). */
408     struct r300_texture_desc tex;
409
410     /* Registers carrying texture format data. */
411     /* Only format-independent bits should be filled in. */
412     struct r300_texture_format_state tx_format;
413
414     /* Where the texture starts in the buffer. */
415     unsigned tex_offset;
416
417     /* This is the level tiling flags were last time set for.
418      * It's used to prevent redundant tiling-flags changes from happening.*/
419     unsigned surface_level;
420 };
421
422 struct r300_vertex_element_state {
423     unsigned count;
424     struct pipe_vertex_element velem[PIPE_MAX_ATTRIBS];
425     unsigned format_size[PIPE_MAX_ATTRIBS];
426
427     struct u_vbuf_mgr_elements *vmgr_elements;
428
429     /* The size of the vertex, in dwords. */
430     unsigned vertex_size_dwords;
431
432     struct r300_vertex_stream_state vertex_stream;
433 };
434
435 enum r300_hiz_func {
436     HIZ_FUNC_NONE,
437
438     /* The function, when determined, is set in stone
439      * until the next HiZ clear. */
440
441     /* MAX is written to the HiZ buffer.
442      * Used for LESS, LEQUAL. */
443     HIZ_FUNC_MAX,
444
445     /* MIN is written to the HiZ buffer.
446      * Used for GREATER, GEQUAL. */
447     HIZ_FUNC_MIN,
448 };
449
450 struct r300_context {
451     /* Parent class */
452     struct pipe_context context;
453
454     /* The interface to the windowing system, etc. */
455     struct r300_winsys_screen *rws;
456     /* The command stream. */
457     struct r300_winsys_cs *cs;
458     /* Screen. */
459     struct r300_screen *screen;
460
461     /* Draw module. Used mostly for SW TCL. */
462     struct draw_context* draw;
463     /* Vertex buffer for SW TCL. */
464     struct pipe_resource* vbo;
465     /* Offset and size into the SW TCL VBO. */
466     size_t draw_vbo_offset;
467     size_t draw_vbo_size;
468     /* Whether the VBO must not be flushed. */
469     boolean draw_vbo_locked;
470     boolean draw_first_emitted;
471
472     /* Accelerated blit support. */
473     struct blitter_context* blitter;
474     /* Stencil two-sided reference value fallback. */
475     struct r300_stencilref_context *stencilref_fallback;
476
477     /* The KIL opcode needs the first texture unit to be enabled
478      * on r3xx-r4xx. In order to calm down the CS checker, we bind this
479      * dummy texture there. */
480     struct r300_sampler_view *texkill_sampler;
481
482     /* When no vertex buffer is set, this one is used instead to prevent
483      * hardlocks. */
484     struct pipe_resource *dummy_vb;
485
486     /* The currently active query. */
487     struct r300_query *query_current;
488     /* The saved query for blitter operations. */
489     struct r300_query *blitter_saved_query;
490     /* Query list. */
491     struct r300_query query_list;
492
493     /* Various CSO state objects. */
494
495     /* Each atom is emitted in the order it appears here, which can affect
496      * performance and stability if not handled with care. */
497     /* GPU flush. */
498     struct r300_atom gpu_flush;
499     /* Anti-aliasing (MSAA) state. */
500     struct r300_atom aa_state;
501     /* Framebuffer state. */
502     struct r300_atom fb_state;
503     /* HyperZ state (various SC/ZB bits). */
504     struct r300_atom hyperz_state;
505     /* ZTOP state. */
506     struct r300_atom ztop_state;
507     /* Depth, stencil, and alpha state. */
508     struct r300_atom dsa_state;
509     /* Blend state. */
510     struct r300_atom blend_state;
511     /* Blend color state. */
512     struct r300_atom blend_color_state;
513     /* Scissor state. */
514     struct r300_atom scissor_state;
515     /* Invariant state. This must be emitted to get the engine started. */
516     struct r300_atom invariant_state;
517     /* Viewport state. */
518     struct r300_atom viewport_state;
519     /* PVS flush. */
520     struct r300_atom pvs_flush;
521     /* VAP invariant state. */
522     struct r300_atom vap_invariant_state;
523     /* Vertex stream formatting state. */
524     struct r300_atom vertex_stream_state;
525     /* Vertex shader. */
526     struct r300_atom vs_state;
527     /* User clip planes. */
528     struct r300_atom clip_state;
529     /* RS block state + VAP (vertex shader) output mapping state. */
530     struct r300_atom rs_block_state;
531     /* Rasterizer state. */
532     struct r300_atom rs_state;
533     /* Framebuffer state (pipelined regs). */
534     struct r300_atom fb_state_pipelined;
535     /* Fragment shader. */
536     struct r300_atom fs;
537     /* Fragment shader RC_CONSTANT_STATE variables. */
538     struct r300_atom fs_rc_constant_state;
539     /* Fragment shader constant buffer. */
540     struct r300_atom fs_constants;
541     /* Vertex shader constant buffer. */
542     struct r300_atom vs_constants;
543     /* Texture cache invalidate. */
544     struct r300_atom texture_cache_inval;
545     /* Textures state. */
546     struct r300_atom textures_state;
547     /* HiZ clear */
548     struct r300_atom hiz_clear;
549     /* zmask clear */
550     struct r300_atom zmask_clear;
551     /* Occlusion query. */
552     struct r300_atom query_start;
553
554     /* The pointers to the first and the last atom. */
555     struct r300_atom *first_dirty, *last_dirty;
556
557     /* Vertex elements for Gallium. */
558     struct r300_vertex_element_state *velems;
559
560     struct pipe_index_buffer index_buffer;
561
562     /* Vertex info for Draw. */
563     struct vertex_info vertex_info;
564
565     struct pipe_stencil_ref stencil_ref;
566     struct pipe_viewport_state viewport;
567
568     /* Stream locations for SWTCL. */
569     int stream_loc_notcl[16];
570
571     /* Flag indicating whether or not the HW is dirty. */
572     uint32_t dirty_hw;
573     /* Whether polygon offset is enabled. */
574     boolean polygon_offset_enabled;
575     /* Z buffer bit depth. */
576     uint32_t zbuffer_bpp;
577     /* Whether rendering is conditional and should be skipped. */
578     boolean skip_rendering;
579     /* Point sprites texcoord index,  1 bit per texcoord */
580     int sprite_coord_enable;
581     /* Whether two-sided color selection is enabled (AKA light_twoside). */
582     boolean two_sided_color;
583     /* Whether fast color clear is enabled. */
584     boolean cbzb_clear;
585     /* Whether ZMASK is enabled. */
586     boolean zmask_in_use;
587     /* Whether ZMASK is being decompressed. */
588     boolean zmask_decompress;
589     /* Whether ZMASK/HIZ is locked, i.e. should be disabled and cannot be taken over. */
590     boolean hyperz_locked;
591     /* The zbuffer the ZMASK of which is locked. */
592     struct pipe_surface *locked_zbuffer;
593     /* Whether HIZ is enabled. */
594     boolean hiz_in_use;
595     /* HiZ function. Can be either MIN or MAX. */
596     enum r300_hiz_func hiz_func;
597     /* HiZ clear value. */
598     uint32_t hiz_clear_value;
599
600     void *dsa_decompress_zmask;
601
602     struct u_vbuf_mgr *vbuf_mgr;
603
604     struct util_slab_mempool pool_transfers;
605
606     /* Stat counter. */
607     uint64_t flush_counter;
608
609     /* const tracking for VS */
610     int vs_const_base;
611
612     /* Vertex array state info */
613     boolean vertex_arrays_dirty;
614     boolean vertex_arrays_indexed;
615     int vertex_arrays_offset;
616     int vertex_arrays_instance_id;
617     boolean instancing_enabled;
618 };
619
620 #define foreach_atom(r300, atom) \
621     for (atom = &r300->gpu_flush; atom != (&r300->query_start)+1; atom++)
622
623 #define foreach_dirty_atom(r300, atom) \
624     for (atom = r300->first_dirty; atom != r300->last_dirty; atom++)
625
626 /* Convenience cast wrappers. */
627 static INLINE struct r300_query* r300_query(struct pipe_query* q)
628 {
629     return (struct r300_query*)q;
630 }
631
632 static INLINE struct r300_surface* r300_surface(struct pipe_surface* surf)
633 {
634     return (struct r300_surface*)surf;
635 }
636
637 static INLINE struct r300_resource* r300_resource(struct pipe_resource* tex)
638 {
639     return (struct r300_resource*)tex;
640 }
641
642 static INLINE struct r300_context* r300_context(struct pipe_context* context)
643 {
644     return (struct r300_context*)context;
645 }
646
647 static INLINE struct r300_fragment_shader *r300_fs(struct r300_context *r300)
648 {
649     return (struct r300_fragment_shader*)r300->fs.state;
650 }
651
652 static INLINE void r300_mark_atom_dirty(struct r300_context *r300,
653                                         struct r300_atom *atom)
654 {
655     atom->dirty = TRUE;
656
657     if (!r300->first_dirty) {
658         r300->first_dirty = atom;
659         r300->last_dirty = atom+1;
660     } else {
661         if (atom < r300->first_dirty)
662             r300->first_dirty = atom;
663         else if (atom+1 > r300->last_dirty)
664             r300->last_dirty = atom+1;
665     }
666 }
667
668 struct pipe_context* r300_create_context(struct pipe_screen* screen,
669                                          void *priv);
670
671 /* Context initialization. */
672 struct draw_stage* r300_draw_stage(struct r300_context* r300);
673 void r300_init_blit_functions(struct r300_context *r300);
674 void r300_init_flush_functions(struct r300_context* r300);
675 void r300_init_query_functions(struct r300_context* r300);
676 void r300_init_render_functions(struct r300_context *r300);
677 void r300_init_state_functions(struct r300_context* r300);
678 void r300_init_resource_functions(struct r300_context* r300);
679
680 /* r300_blit.c */
681 void r300_decompress_zmask(struct r300_context *r300);
682 void r300_decompress_zmask_locked_unsafe(struct r300_context *r300);
683 void r300_decompress_zmask_locked(struct r300_context *r300);
684
685 /* r300_flush.c */
686 void r300_flush(struct pipe_context *pipe,
687                 unsigned flags,
688                 struct pipe_fence_handle **fence);
689
690 /* r300_hyperz.c */
691 void r300_update_hyperz_state(struct r300_context* r300);
692
693 /* r300_query.c */
694 void r300_resume_query(struct r300_context *r300,
695                        struct r300_query *query);
696 void r300_stop_query(struct r300_context *r300);
697
698 /* r300_render_translate.c */
699 void r300_translate_index_buffer(struct r300_context *r300,
700                                  struct pipe_resource **index_buffer,
701                                  unsigned *index_size, unsigned index_offset,
702                                  unsigned *start, unsigned count);
703
704 /* r300_render_stencilref.c */
705 void r300_plug_in_stencil_ref_fallback(struct r300_context *r300);
706
707 /* r300_render.c */
708 void r300_draw_flush_vbuf(struct r300_context *r300);
709 void r500_emit_index_bias(struct r300_context *r300, int index_bias);
710
711 /* r300_state.c */
712 enum r300_fb_state_change {
713     R300_CHANGED_FB_STATE = 0,
714     R300_CHANGED_HYPERZ_FLAG,
715     R300_CHANGED_MULTIWRITE
716 };
717
718 void r300_mark_fb_state_dirty(struct r300_context *r300,
719                               enum r300_fb_state_change change);
720 void r300_mark_fs_code_dirty(struct r300_context *r300);
721
722 /* r300_state_derived.c */
723 void r300_update_derived_state(struct r300_context* r300);
724
725 /* r300_debug.c */
726 void r500_dump_rs_block(struct r300_rs_block *rs);
727
728
729 static INLINE boolean CTX_DBG_ON(struct r300_context * ctx, unsigned flags)
730 {
731     return SCREEN_DBG_ON(ctx->screen, flags);
732 }
733
734 static INLINE void CTX_DBG(struct r300_context * ctx, unsigned flags,
735                        const char * fmt, ...)
736 {
737     if (CTX_DBG_ON(ctx, flags)) {
738         va_list va;
739         va_start(va, fmt);
740         vfprintf(stderr, fmt, va);
741         va_end(va);
742     }
743 }
744
745 #define DBG_ON  CTX_DBG_ON
746 #define DBG     CTX_DBG
747
748 #endif /* R300_CONTEXT_H */