translate_sse: major rewrite (v5)

NOTE: Win64 is untested, and is thus currently disabled.
If you have such a system, please enable it and report whether it works.
To enable it, change src/gallium/auxiliary/translate/translate.c

Changes in v5:
- On Win64, preserve %xmm6 and %xmm7 as required by the ABI
- Use _WIN64 instead of WIN64

Changes in v4:
- Use x86_target() and x86_target_caps()
- Enable translate_sse in x86-64, but not in Win64

Changes in v3:
- Win64 support (untested)
- Use u_cpu_detect.h constants instead of #ifs

Changes in v2:
- Minimize #ifs
- Give a name to magic number CHANNELS_0001
- Add support for CPUs without SSE (only memcpy and swizzles, like non SSE2)
- Fixed comments

translate_sse is currently very limited to the point of
being useless in essentially all cases.

In particular, it only support some float32 and unorm8
formats and doesn't work on x86-64.

This commit rewrites it to support:
1. Dumb memory copy for any pair of identical formats
2. All formats that are swizzles of each other
3. Converting 32/64-bit floats and all 8/16/32-bit integers to 32-bit float
4. Converting unorm8/snorm8 to snorm16 and uscaled8/sscaled8 to sscaled16
5. Support for x86-64 (doesn't take advantage of it in any way though)

This new translate can even be useful to translate index buffers for
cards that lack 8-bit index support.

It passes the testsuite I wrote, but note that this is a major change, and more
testing would be great.

rtasm: add minimal x86-64 support and new instructions (v5)

Changes in v5:
- Add sse2_movdqa

Changes in v4:
- Use _WIN64 instead of WIN64

Changes in v3:
- Add target and target caps functions, so that they could be different in
  principle from the current CPU and they don't need #ifs to check

Changes in v2:
- Win64 support (untested)
- Use u_cpu_detect.h constants instead of #ifs

This commit adds minimal x86-64 support: only movs between registers
are supported for r8-r15, and x64_rexw() must be used to ask for 64-bit
operations.

It also adds several new instructions for the new translate_sse code.

movdqa

translate: add support for 8/16-bit indices

Currently, only 32-bit indices are supported, but some use cases
translate needs support for all types.

translate_sse: remove useless generated function wrappers

Currently translate_sse puts two trivial wrappers in the translate vtable.

These slow it down and enlarge the source code for no gain, except perhaps
the ability to set a breakpoint there, so remove them.

Breakpoints can be set on the caller of the translate functions, with no
loss of functionality.

translate_generic: factor out common code between linear and indexed

This moves the common code into a separate ALWAYS_INLINE function.

translate_generic: use memcpy if possible (v3)

Changes in v3:
- If we can do a copy, don't try to get an emit func, as that can assert(0)

Changes in v2:
- Add comment regarding copy_size

When used in GPU drivers, translate can be used to simultaneously
perform a gather operation, and convert away from unsupported formats.

In this use case, input and output formats will often be identical: clearly
it would make sense to use a memcpy in this case.

Instead, translate will insist to convert to and from 32-bit floating point
numbers.

This is not only extremely expensive, but it also loses precision for
32/64-bit integers and 64-bit floating point numbers.

This patch changes translate_generic to just use memcpy if the formats are
identical, non-blocked, and with an integral number of bytes per pixel (note
that all sensible vertex formats are like this).

drwa: Fix polygon edge flags.

Fix a copy-and-paste error introduced by
f141abdc8fdbff41e16b0ce53fa3fa8fba32a7f9.

draw: No need to make max_vertices even.

Triangle strip alternates the front/back orientation of its triangles.
max_vertices was made even so that varray never splitted a triangle
strip at the wrong positions.

It did not work with triangle strips with adjacencies.  And it is no
longer relevant with vsplit.

draw: Remove DRAW_PIPE_MAX_VERTICES and DRAW_PIPE_FLAG_MASK.

The higher bits of draw elements are no longer used for the stipple or
edge flags.

drwa: Add PRIMITIVE macro to vsplit.

PRIMITIVE is used by the indexed path to flush the entire primitive with
custom vertex count checks.  It replaces the existing fast path.

draw: last_vertex_last is always true for GS and SO.

That is, OpenGL decomposition rule is assumed.  There should be a
pipe_context state to specify the rules.

draw: Remove varray and vcache.

They have been deprecated by vsplit.

draw: Replace vcache by vsplit.

vcache decomposes primitives while vsplit splits primitives.  Splitting
is generally easier to do and is faster.  More importantly, vcache
depends on flatshade_first to decompose.  The outputs may have incorrect
vertex order which is significant to GS.

draw: Replace varray by vsplit.

vsplit is a superset of varray.  It sets the split flags comparing to
varray.

draw: Add vsplit frontend.

vsplit is based on varray.  It sets the split flags when a primitive is
splitted.  It also has support for indexed primitives.

For indexed primitives, unlike vcache, vsplit splits the primitives
instead of decomposes them.

draw: Add new util function draw_pt_trim_count.

draw_pt_trim_count is renamed from trim in draw_pt.c.

draw: Simplify frontend interface a little.

The run method is simplified to take the start vertex and the vertex
count.

draw: Add prim flags to middle ends.

Update the middle end interface to pass the primitive flags from the
frontends to the pipeline.  No frontend sets the flags yet.

draw: Add flags to draw_prim_info.

A primitive may be splitted in frontends.  The splitted primitives
should convey certain flag bits so that the decomposer can correctly
decide the stipple or edge flags.

This commit adds flags to draw_prim_info and updates the decomposer to
honor the flags.  Frontends and middle ends will be updated later.

st/mesa: test for FEATURE defines

'struct dd_function_table' only conditionally contains
the function pointer NewFramebuffer and friends based on
FEATURE_EXT_framebuffer_* defines. (See src/mesa/main/dd.h)

Fixes the build when the features are disabled and the vfuncs
don't exist.

dri/nouveau: test for FEATURE defines

'struct dd_function_table' only conditionally contains
the function pointer NewFramebuffer and friends based on
FEATURE_EXT_framebuffer_* defines. (See src/mesa/main/dd.h)

Fixes the build when the features are disabled and the vfuncs
don't exist.

dri/radeon: test for FEATURE defines

'struct dd_function_table' only conditionally contains
the function pointer NewFramebuffer and friends based on
FEATURE_EXT_framebuffer_* defines. (See src/mesa/main/dd.h)

Fixes the build when the features are disabled and the vfuncs
don't exist.

x86: Remove unnecessary header from sse.h.

x86: Include missing headers in mmx.h.

Include compiler.h for _ASMAPI symbol.
Include mtypes.h for GLcontext symbol.

x86: Remove unnecessary header from 3dnow.h.

glsl: Clean up header file inclusion in slang_typeinfo.h.

Remove imports.h, mtypes.h, and slang_vartable.h.
Include glheader.h for GL symbols.

glsl: Include missing header in slang_codegen.h.

Include slang_vartable.h for slang_var_table symbol.

glsl: Include missing header in slang_compile_operation.h.

Include compiler.h for INLINE symbol.

glsl: Clean up header file inclusion in slang_storage.h.

Remove slang_compile.h.
Include glheader.h for GL symbols.
Include slang_compile_function.h for slang_function_scope symbol.
Include slang_compile_struct.h for slang_struct_scope symbol.
Include slang_compile_variable.h for slang_variable_scope symbol.
Include slang_typeinfo.h for slang_type_specifier symbol.
Include slang_utility.h for slang_atom_pool symbol.

glsl: Clean up header file inclusion in slang_mem.h.

slang_mem.h
Remove imports.h.
Include glheader.h for GL symbols.

slang_label.c
Include imports.h now that slang_mem.c does not include it.

glsl: Clean up header file inclusion in slang_ir.h.

Remove imports.h and slang_compile.h.
Include glheader.h for GL symbols.
Include slang_compile_variable.h for slang_variable symbol.

glsl: Include missing header in slang_link.c.

Include slang_compile.h for _slang_compile function.

glsl: Include missing headers in slang_builtin.c.

Include slang_typeinfo.h for slang_type_specifier symbol.
Include slang_compiler_struct.h for slang_struct_ symbol.

r300g: fix an invalid pointer in free

r300g: Let hyperz init fail

Signed-off-by: Marek Olšák <maraeo@gmail.com>

r300g: Fix leaks in failed context creation

This changes r300_destroy_context() so it can be called
on a partially-initialized context, and uses it when
r300_create_context() hits a fatal error.

This makes sure r300_create_context() doesn't leak memory
or neglect to call r300_update_num_contexts() when it fails.

Signed-off-by: Marek Olšák <maraeo@gmail.com>

r300g: Fix macro

This fixes a potential bug if (has_hyperz) is false
(it would still init the atom as if has_hyperz were true).

Signed-off-by: Marek Olšák <maraeo@gmail.com>

r300/compiler: implement DP2 opcode

r300/compiler: implement SSG opcode

r300/compiler: fix allocation of temporaries in radeonTransformTEX

llvmpipe: special case triangles which fall in a single 16x16 block

Check for these and route them to a dedicated handler with one fewer
levels of recursive rasterization.

llvmpipe: consolidate several loops in lp_rast_triangle

llvmpipe: remove all traces of step arrays, pos_tables

No need to calculate these values any longer, nor to store them in the
bin data.  Improves isosurf a bit more, 115->123 fps.

llvmpipe: eliminate last usage of step array in rast_tmp.h

For 16 and 64 pixel levels, calculate a mask which is linear in x and
y (ie not in the swizzle layout).

When iterating over full and partial masks, figure out position by
manipulating the bit number set in the mask, rather than relying on
postion arrays.

Similarly, calculate the lower-level c values from dcdx, dcdy and the
position rather than relying on the step array.

llvmpipe: don't refer to plane->step when dcdx or dcdy would do

llvmpipe: also use build_mask at 16, 64 pixel levels

llvmpipe: version of block4 which doesn't need the full step array

No noticable slowdown with isosurf.

llvmpipe: reorganize block4 loop, nice speedup

isosurf 95->115 fps just by exchanging the two inner loops in this
function...

gallium/docs: Cleanup debugging. Spelling, grammar, organization.

gallium/docs: Add formatting for envvar role; change debugging.

Per Jakob's request. Not super-pretty, but it's a good point for modding
later.

glsl: Fix self inclusion in slang_compile_function.h.

Fix self inclusion introduced by commit
4fef77c7c5455b983daa93cacf90d2b3baa3967e.

glsl: Include missing header in slang_ir.h.

Include prog_instruction.h for gl_inst_opcode symbol.

glsl: Clean up header file inclusion in slang_link.h.

Remove slang_compile.h.
Include mtypes.h for GLcontext symbol.

glsl: Clean up header file inclusion in slang_label.h.

Move mtypes.h and prog_instruction.h to slang_label.c.
Remove imports.h.
Include glheader.h from GL symbols.

r300g: mark HiZ/ZMask_clear atoms as non-dirty after emission in clear

glsl: Clean up header file inclusion in slang_emit.h.

Remove imports.h.
Remove mtypes.h.
Remove slang_compile.h.
Include glheader.h for GL symbols.
Include slang_vartable.h for slang_var_table symbol.

glsl: Clean up header file inclusion in slang_compile.h.

Remove imports.h.
Remove slang_typeinfo.h.
Remove slang_compile_operation.h.
Include glheader.h for GL symbols.
Include slang_utility.h for slang_atom_pool symbol.

glsl: Include missing headers in slang_compile_struct.h.

Include glheader.h for GL symbols.
Include slang_utility.h for slang_atom symbol.

r300g: do not use HiZ if HiZ RAM is not properly initialized

r300g: rename dirty_zmask -> zmask_in_use

r300g: do not clear with blitter if we clear just the ZMask RAM

This skips the blitter clear path entirely if the color is not cleared and
the depth+stencil is cleared with the ZMask.

r300g: do not use fastfill if ZMask RAM is not properly initialized

z_fastfill -> dirty_zmask[level].

r300g: separate num_cs_end_dwords out from prepare_for_rendering

glsl: Include missing headers in slang_print.h.

Include glheader.h for GL symbols.
Include slang_compile_function.h for slang_function symbol.
Include slang_compile_operation.h for slang_operation symbol.
Include slang_compile_variable.h for slang_variable and slang_variable_scope symbols.
Include slang_typeinfo.h for slang_type_qualifer and slang_fully_specified_type symbols.

glsl: Include missing headers in slang_compile_function.h

Include glheader.h for GL symbols.
Include slang_compile_function.h for slang_function symbol.
Include slang_compile_operation.h for slang_operation symbol.
Include slang_compile_variable.h for slang_variable and
slang_variable_scope symbols.
Include slang_log.h for slang_info_log symbols.
Include slang_utility.h for slang_atom and slang_atom_pool symbols.

glsl: Include missing headers in slang_compiler_operation.h.

Include glheader.h for GL symbols.
Include slang_compile_variable.h for slang_variable_scope symbol.
Include slang_utility.h for slang_atom symbol.

glsl: Include missing headers in slang_simplify.h.

Include glheader.h for GL symbols.
Include slang_compile.h for slang_name_space symbol.
Include slang_compile_function.h for slang_function symbol.
Include slang_compile_operation.h for slang_operation symbol.
Include slang_log.h for slang_info_log symbol.
Include slang_utility.h for slang_atom_pool symbol.

glsl: Include missing header in slang_utility.h.

Include glheader.h for GL symbols.

glsl: Include missing headers in slang_vartable.h.

Include glheader.h for GL symbols.
Include slang_utility.h for slang_atom symbol.

gallium/docs: Add rbug to distribution

gallium/docs: Add a debugging section

gallium: Make printing info on debug builds default off

This commit silences the printing off most of the debug information
when running debug builds. The big culprits are: the tgsi sanity checker
that gets run on all shaders on debug; all the options; and
finaly the cpu caps printer.

glsl: Include missing header in slang_log.h.

Include glheader.h for GLboolean symbol.

glsl: Include missing headers in slang_compile_variable.h.

Include glheader.h for GL symbols.
Include slang_typeinfo.h for slang_fully_specified_type symbol.
Include slang_utility.h for slang_atom symbol.

glsl: Clean up header file inclusion in slang_codegen.h.

Remove mtypes.h.
Include glheader.h for GL symbols.
Include slang_compile_variable.h for slang_variable symbol.
Include slang_typeinfo.h for slang_type_specifier symbol.
Include slang_utility.h for slang_atom_pool symbol.

gallivm: Remove unnecessary header.

scons: Fix r600g build.

r600g: Remove unnecessary headers.

r300g: Remove unnecessary header.

u_cpu_detect: remove arch and little_endian

This logic duplicates the one in p_config.h, so remove it and adjust
the only two places that were using it.

gallivm: Refactor the Newton-Rapshon steps, and disable once again.

It causes a very ugly corruption on the Earth's halo on Google Earth.

glsl: Clean up header file inclusion in slang_builtin.h.

Remove prog_parameter.h and slang_utility.h.
Include glheader.h for GL symbols.
Include mtypes.h for gl_*_result symbols.

glsl: Clean up header file inclusion.

glsl: Include missing header in slang_compile.c.

Include sl_pp_purify.h for sl_pp_purify_options symbol.

glsl/cl: Add forward declaration.

mesa: assorted clean-ups, var type changes, assertions in prog_optimize.c

mesa: more/better program optimizations

This is the patch from Benjamin's Aug 11, 2010 email with minor fixes
(such as moving declarations before code)

Signed-off-by: Brian Paul <brianp@vmware.com>

st/dri: make dri_drawable_validate_att static

st/dri: move TFP code to dri_drawable.c

This is based on a patch by nobled <nobled@dreamwidth.org> and allows the TFP
extension to be enabled for DRISW also. This patch does not enable TFP for DRISW
though, because testing on xephyr segfaults here (for both classic and gallium):

Program received signal SIGSEGV, Segmentation fault.
0x00786a4a in _mesa_GenTextures (n=1, textures=0xbfffee4c) at main/texobj.c:788
788    ASSERT_OUTSIDE_BEGIN_END(ctx);
(gdb)
(gdb) where
\#0  0x00786a4a in _mesa_GenTextures (n=1, textures=0xbfffee4c) at main/texobj.c:788
\#1  0x0817a004 in __glXDisp_GenTextures ()
\#2  0x08168498 in __glXDispatch ()
\#3  0x0808b6ce in Dispatch ()
\#4  0x08084435 in main ()

The TFP code is generic except for the teximage call. We need to verify that
DRISW correclty implements whatever hook teximage finally calls.

st/dri: Fix segmentation fault in sw drivers

st/dri: dri_drawable_get_format is shared between DRI2 and DRISW

mesa: Clean up header file inclusion in vf.h.

Remove mtypes.h.
Include glheader.h for GL symbols.

swrast: Clean up header file inclusion in ss_vb.h.

Remove unnecessary header swrast_setup.h.

swrast: Clean up header file inclusion in ss_triangle.h.

Remove ss_context.h.
Include mtypes.h for GLcontext symbol.

swrast: Clean up header file inclusion in ss_context.h.

Remove mtypes.h and swrast_setup.h.
Include glheader.h for GL symbols.

mesa: Include missing header in programopt.h.

Include mtypes.h for GLcontext and gl_register_file symbols.

r300g: do not support separate depth/stencil clear in the driver

It doesn't work well with Hyper-Z, so put the burden on the state tracker.

r300g: fix fastfill when color and Z clear are invoked separately

This always restores the previous depth clear value after CBZB clear.

r600g: update shader caps

Sent on ML by Владимир.

These values are what fglrx returns.

r300g: disable depth clamp for now

It breaks Regnum Online in that it renders random triangles
all over the screen.

https://bugs.freedesktop.org/show_bug.cgi?id=29518